تشغيل نموذج ذكاء اصطناعي محليًا: ما المتطلبات؟

يمكن تشغيل نموذج ذكاء اصطناعي على جهازك دون إنترنت، لكن نجاح التجربة لا يعني أن الجهاز سيشغّل النماذج الكبيرة بسرعة مناسبة. يقول Abdul Osama (عبدول أسامة) إنه جرّب ذلك على جهاز الألعاب الخاص به: استطاع التحدث مع النموذج وتلقّي رد، لكن الأداء كان بطيئًا والإمكانيات محدودة.

«قدرت أشغّل نموذج ذكاء اصطناعي على جهاز الجيمينج بتاعي من غير إنترنت، وتكلمت معاه وردّ عليّ.» — عبدول أسامة

لماذا تختلف متطلبات التشغيل؟

التشغيل المحلي يعني أن النموذج يعمل على عتاد تملكه بدل الاعتماد على خدمة بعيدة. والنموذج مفتوح المصدر، في هذا السياق، نموذج متاح لتشغيله على عتاد تختاره وفق شروط ترخيصه. كلما كبر النموذج، زادت أهمية الذاكرة والتخزين وقدرة المعالجة؛ وبطاقة الرسوميات، أو GPU، هي قطعة عتاد تُستخدم لتسريع هذه العمليات.

بعد تجربته، بحث عبدول في متطلبات تشغيل نموذج كبير بقدرات قريبة من الخدمات التي يستخدمها الناس عبر الإنترنت. ويعرض المواصفات التالية كتقديرات لما بحث عنه، لا كمتطلبات مؤكدة لكل نموذج:

بالأرقام

• نحو 8 بطاقات رسوميات.
• نحو 500 جيجابايت من ذاكرة RAM.
• مساحة SSD، أي تخزين سريع، بين 2 و4 تيرابايت.
• جهاز بهذه المواصفات قد يتجاوز سعره 100 ألف دولار.
• قال إنه سيقارن 3 منصات لاستئجار العتاد في فيديو لاحق؛ ولم يسمّها في هذا الفيديو.

ما البديل عن شراء خادم؟

يقترح عبدول استئجار العتاد من منصة استضافة وتشغيل نموذج مفتوح المصدر تختاره، بدل شراء خادم مرتفع التكلفة. وذكر OpenAI وAnthropic، وهما شركتان تقدمان خدمات ونماذج ذكاء اصطناعي، ليؤكد أن استخدام خدماتهما ليس الخيار الوحيد.

| الخيار | ما الذي أوضحته التجربة؟ | |---|---| | جهاز ألعاب محلي | عمل دون إنترنت، لكن النموذج الذي جرّبه كان بطيئًا ومحدودًا. | | خادم تملكه | قد يحتاج عتادًا مكلفًا لتشغيل نموذج كبير. | | عتاد مستأجر | يتيح اختيار نموذج دون شراء الخادم، لكن شروط التكلفة والخصوصية تعتمد على المزوّد. |

خلفية

تشغيل نموذج مفتوح المصدر على عتاد مستأجر لا يضمن وحده بقاء البيانات خاصة أو منع استخدامها لأغراض أخرى. قبل رفع بيانات حساسة، راجع مكان معالجة البيانات وسياسة الاحتفاظ بها وشروط المزوّد. وإذا كان هدفك العمل دون إنترنت تحديدًا، فتذكّر أن الاستضافة على خادم بعيد ليست تشغيلًا محليًا دون اتصال.

ماذا تفعل بعد ذلك؟

حدّد أولًا النموذج الذي تريد تشغيله وما إذا كانت أولويتك العمل دون إنترنت أم تجنّب شراء العتاد. ثم قارن متطلبات النموذج بخيارات جهازك أو الاستضافة، وراجع شروط الخصوصية قبل الاختيار.