در دنیای بهروز هوش مصنوعی، اندری کارپاتی، متخصص برجسته حوزه AI سابقاً در تسلا و OpenAI، با یک پروژه جالب توجه به نام “LLM Council” (شورای مدلهای زبانی بزرگ) تازهترین دستاورد خود را به نمایش گذاشته است. این پروژه که در ابتدا برای مطالعه کتاب با همراهی هوش مصنوعی طراحی شده بود، اکنون به عنوان یک مرجع معماری برای لایه میانی نرمافزار و سازماندهی مدلهای AI در سطح سازمانی مطرح میشود.
LLM Council چگونه کار میکند؟ چهار مدل هوش مصنوعی بحث، نقد و پاسخ را ترکیب میکنند.
کارپاتی با استفاده از این پروژه نشان داده که چطور یک سیستم تصمیمگیری میتواند بهصورت موازی عمل کند. در ابتدا، سوال کاربر به چندین مدل هوش مصنوعی (مثل GPT-4) ارسال میشود تا هر کدام پاسخ اولیه خود را ارائه دهند. سپس، یک مرحله بازبینی همتا انجام میشود؛ در آن، هر مدل به بررسی و ارزیابی پاسخهای دیگر میپردازد و بر اساس دقت و بینش آنها رتبهبندی میکند. در نهایت، “رئیس شورای LLM” (که در حال حاضر Gemini 3 از گوگل است) تمام اطلاعات را جمعآوری کرده و یک پاسخ نهایی و جامع را برای کاربر ارائه میدهد.
FastAPI, OpenRouter، و اهمیت تبدیل مدلهای پیشرفته به اجزای قابل تعویض
معماری LLM Council بر پایه FastAPI ساخته شده و از OpenRouter برای اتصال به چندین ارائهدهنده مدل استفاده میکند. این طراحی امکان تعویض آسان مدلها را فراهم کرده است؛ با یک تغییر ساده در فایل تنظیمات، میتوان مدل جدیدی را جایگزین کرد.
معماری Minimal AI Stack: نگاهی اجمالی
این پروژه نمایانگر یک پشته (stack) هوش مصنوعی مینیمال و مدرن در انتهای سال 2025 است که شامل موارد زیر میباشد: * FastAPI: فریمورک بکاند * Frontend: یک رابط کاربری استاندارد وب * ذخیره داده: فایلهای متنی روی دیسک محلی * OpenRouter: واسط API برای اتصال به مدلهای مختلف
از نمونه اولیه تا تولید: نیازمندیها و چالشها
با وجود زیبایی LLM Council، انتقال آن از یک نمونه اولیه به یک سیستم عملیاتی سازمانی نیازمند توجه به جزئیات مهمی است: * احراز هویت (Authentication): در حال حاضر این سیستم فاقد احراز هویت است. * حفاظت از اطلاعات شخصی (PII Redaction): عدم وجود مکانیسمهایی برای حذف دادههای حساس قبل از ارسال به مدلها * انطباق با قوانین و مقررات (Compliance): عدم وجود ردیابی و ثبت درخواستها، که میتواند مسائل انطباقی را ایجاد کند. * پایداری (Reliability): نیاز به مکانیزمهای مدیریت خطا، بازگشت به حالت اولیه و تکرار درخواستها در صورت بروز مشکل کارپاتی صراحتاً اعلام کرده است که قصد پشتیبانی یا توسعه این پروژه را ندارد؛ با این وجود، LLM Council به عنوان یک نمونه آموزشی ارزشمند برای متخصصان حوزه هوش مصنوعی عمل میکند.
این مطلب از منابع بینالمللی ترجمه و بازنویسی شده است.