پیودی‌پای یک دیتاسنتر خانگی برای هوش مصنوعی ساخت

فلیکس شلبرگ یوتیوبر معروف ملقب به پیودی‌پای در اقدامی منحصر به فرد وارد حوزه هوش مصنوعی شده است. او سرویس هوش مصنوعی شخصی خود به نام ChatOS را با استفاده از مدل‌های متن‌باز چینی و پردازنده‌های گرافیکی انویدیا ایجاد کرده است. به نظر می‌رسد فلیکس در اجرای محلی مدل‌های هوش مصنوعی بر روی دستگاه‌های شخصی مهارت بالایی دارد.

به گزارش بخش سخت افزار رسانه اخبار تکنولوژی تکنا، او در ویدیوی جدید خود توضیح می‌دهد که چگونه از تکنیک انشعاب PCIe برای ساخت یک مرکز داده کوچک با ۱۰ پردازنده گرافیکی استفاده کرده است. این مجموعه شامل هشت پردازنده گرافیکی سری Ada انویدیا و دو کارت RTX 4090 با خنک‌کننده دمنده است. این کارت‌های ۴۰۹۰ شبیه به مدل‌های اصلاح‌شده‌ای هستند که به طور گسترده در چین استفاده می‌شوند.

گزارش شده است که او رابط کاربری چت خود را برنامه‌نویسی کرده و ارتشی از چت‌بات‌ها را برای رأی‌گیری اکثریتی ایجاد نموده است. او همچنین قابلیت‌هایی مانند RAG و DeepResearch و خروجی صوتی را به آن‌ها افزوده است. نکته جالب توجه استفاده او از مدل‌های چینی Qwen و اجرای آن‌ها روی سیستم محلی شخصی‌اش است.

بر اساس گفته‌های فلیکس ایده اولیه او از ساخت این دستگاه قدرتمند کمک به افراد در تحقیقات پزشکی از طریق اجرای شبیه‌سازی‌های تاخوردگی پروتئین بوده است. با این حال او تصمیم گرفت میزبانی مدل‌های هوش مصنوعی مانند Llama 70B را آزمایش کند و این مدل زبانی بزرگ با موفقیت اجرا شد.

او سپس یک سرویس وب برای ارتباط با مدل‌های هوش مصنوعی محلی خود ایجاد کرد. این سرویس قابلیت‌هایی چون جستجوی وب RAG خروجی صوتی و حافظه را یکپارچه می‌کرد. فلیکس از مدل متن‌باز Qwen متعلق به بایدو برای ساخت یک سیستم کاملاً خصوصی و خود-میزبان بهره برد.

اقدام بعدی او جالب‌تر نیز بود. پیودی‌پای چندین مدل زبانی بزرگ را به صورت محلی اجرا کرد تا نحوه تعامل آن‌ها با یکدیگر را مشاهده کند. او این گروه را ابتدا شورا و سپس آن را به گروه ازدحام گسترش داد. اعضای شورا به پاسخ یک پرسش رأی می‌دادند تا صحت آن را تحلیل کنند.

با گذشت زمان اعضای شورا شروع به جانبداری استراتژیک از یکدیگر کردند و نوعی همکاری نوظهور را به نمایش گذاشتند. این رفتار بخشی از برنامه اصلی نبود. این مدل‌ها ظاهراً هنگام تعامل با یکدیگر تکامل یافته و رفتاری شبیه به انسان در تبانی در سیستم رأی‌گیری از خود نشان دادند.

او برای حل این مشکل کل سیستم را به یک مدل ساده‌تر تغییر داد. این ماجراجویی هوش مصنوعی پیودی‌پای یک تجربه بسیار جالب و قابل توجه بود. مشاهده این رفتارها که نشان‌دهنده پیچیدگی‌های غیرمنتظره در تعاملات هوش مصنوعی است بسیار شگفت‌انگیز بود.