بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يعتقد أن النموذج الحالي خطير ويعتقد أنه سيكون من الخطأ الكبير تنظيمه أو حظره.
· تُظهر البيانات الداخلية لـ OpenAI أن قوانين التحجيم الخاصة بأداء النموذج (قوانين القياس) لا تزال سارية ، مما يجعل النموذج أكبر سيستمر في إنتاج الأداء.
* مصدر الصورة: تم إنشاؤه بواسطة أداة Unbounded AI *
في الأسبوع الماضي ، عقد أكثر من 20 مطورًا ، بما في ذلك الرئيس التنفيذي لشركة OpenAI Sam Altman ومنصة تطوير AI HumanLoop الرئيس التنفيذي رضا حبيب ، اجتماعًا مغلقًا لمناقشة OpenAI's API (واجهة برمجة التطبيقات) وخطط المنتج. بعد أيام قليلة ، نشر رضا حبيبي ملخصًا تفصيليًا لأبرز الأحداث في الاجتماع.
في المناقشة ، اعترف ألتمان بصراحة شديدة أن OpenAI مقيد حاليًا بوحدة معالجة الرسومات GPU ، وتحدث عن خطة المصدر المفتوح لـ GPT-3 وأولوية OpenAI الحالية والتأثير الاجتماعي للذكاء الاصطناعي. بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يرى أن النموذج الحالي خطير.
قال ألتمان أيضًا أن البيانات الداخلية لـ OpenAI تُظهر أن القانون الذي ينص على أن أداء النموذج يتناسب مع المقياس لا يزال صحيحًا ، أي أنه كلما كان النموذج أكبر ، كان الأداء أقوى. ستستمر OpenAI في محاولة جعل النماذج أكبر ، لكن من المحتمل أن يتضاعف حجمها أو يتضاعف ثلاث مرات فقط كل عام ، وليس بأعداد كبيرة.
** حاليًا مقيدة بشدة بواسطة وحدة معالجة الرسومات **
كان الموضوع المتكرر طوال المناقشة هو أن اعتماد OpenAI الحالي الكبير على وحدات معالجة الرسومات قد أخر العديد من خططها قصيرة المدى.
تلقت OpenAI معظم شكاوى المستخدمين حول موثوقية وسرعة واجهة برمجة التطبيقات. فهم ألتمان مخاوفهم وأوضح أن الكثير من المشكلة كان ناتجًا عن نقص موارد وحدة معالجة الرسومات.
لا يمكن توسيع وظيفة سياق 32k tokens المدعومة سابقًا بواسطة ChatGPT لتشمل المزيد من الأشخاص ، ولا يزال لدى OpenAI بعض المشكلات التي يجب حلها ، لذلك على الرغم من أنه قد يكون لديهم قريبًا نافذة سياق 100k-1M tokens ، إلا أنهم لا يزالون بحاجة إلى الحصول عليها في اختراق البحث.
كما أن واجهة برمجة التطبيقات للضبط الدقيق محدودة حاليًا بموارد وحدة معالجة الرسومات. لم يستخدموا بعد أساليب ضبط فعالة مثل المحولات أو LoRa (طريقتان شائعتان للضبط الدقيق للنماذج الكبيرة) ، لذا فإن عملية الضبط الدقيق والإدارة تتطلب موارد حسابية شديدة. ستكون هناك طرق أفضل للضبط الدقيق في المستقبل. قد يستضيفون أيضًا سوقًا للنماذج التي يساهم بها المجتمع.
يتم أيضًا تقييد توفير السعة المخصصة بواسطة موارد وحدة معالجة الرسومات. يوفر OpenAI سعة مخصصة للعملاء ذوي الاحتياجات الخاصة ، مما يسمح للعملاء بتشغيل البيانات الخاصة في مساحة مخصصة. للوصول إلى هذه الخدمة ، يجب على العملاء الالتزام بسلفة قدرها 100000 دولار.
** خارطة طريق OpenAI **
شارك Sam خارطة طريق مؤقتة قصيرة المدى لواجهة برمجة تطبيقات OpenAI.
في عام 2023 ، تتمثل المهمة الأولى في تحقيق GPT-4 أرخص وأسرع ؛ وثانيًا ، نافذة سياق أطول - في المستقبل القريب ، قد تصل نافذة السياق إلى مليون رمز مميز ؛ ثالثًا ، ستتوسع واجهة برمجة التطبيقات للضبط الدقيق إلى أحدث طراز ، ولكن سيتم تحديد النموذج المحدد من خلال الاحتياجات الفعلية للمطورين ؛ رابعًا ، واجهة برمجة تطبيقات ذات الحالة - عند استدعاء واجهة برمجة تطبيقات الدردشة اليوم ، من الضروري تمرير نفس محفوظات المحادثة بشكل متكرر ودفع نفس الرموز بشكل متكرر. في المستقبل ، سيكون هناك إصدار API يتذكر محفوظات المحادثات.
في عام 2024 ، سيتم فتح قدرات الوسائط المتعددة. عندما تم إصدار GPT-4 ، أظهر إمكانات قوية متعددة الوسائط ، ولكن حتى يتم استيفاء وحدات معالجة الرسومات ، لا يمكن توسيع هذه الإمكانية لتشمل الجميع.
يهتم العديد من المطورين بالوصول إلى مكونات ChatGPT الإضافية من خلال واجهة برمجة التطبيقات ، لكن Altman لا يعتقد أنه سيتم إصدار هذه المكونات الإضافية على المدى القصير. بالإضافة إلى التصفح ، لم يعثر نظام المكونات الإضافية على PMF (Product Market Fit ، أفضل ملاءمة بين المنتج والسوق).
أشار ألتمان إلى أن الكثير من الناس يعتقدون أنهم يريدون أن يكون تطبيقهم داخل ChatGPT ، لكن ما يريدونه حقًا هو ChatGPT داخل التطبيق.
قال ألتمان أن OpenAI لن تصدر المزيد من المنتجات من ChatGPT.
قال إنه وفقًا للاتفاقية ، سيكون للمنصة الرائعة تطبيق قاتل ، وستقوم ChatGPT بإنشاء هذا التطبيق الذي يحطم الأرقام القياسية. تتمثل رؤية ChatGPT في أن تكون مساعدًا فائق الذكاء للعمل ، ولكن هناك العديد من حالات استخدام GPT الأخرى التي لن تلمسها OpenAI.
** قوانين التوسع لا تزال سارية **
بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يعتقد أن النموذج الحالي خطير ويعتقد أنه سيكون من الخطأ الكبير تنظيمه أو حظره.
وكرر إيمانه بأهمية المصدر المفتوح وقال إن OpenAI تدرس جعل GPT-3 مفتوح المصدر. السبب في عدم كونه مفتوح المصدر هو أنهم يشعرون أنه ليس لدى الكثير من الأشخاص والشركات القدرة على إدارة مثل هذا النموذج اللغوي الضخم بشكل صحيح.
نقلت العديد من المقالات الحديثة عن ألتمان قوله إن "عصر نماذج الذكاء الاصطناعي العملاقة قد انتهى" ، لكن هذا لا يعكس معناه الأصلي بدقة. وقال إن البيانات الداخلية لـ OpenAI تظهر أن قوانين التحجيم لأداء النموذج (قوانين القياس) لا تزال سارية ، مما يجعل النموذج أكبر سيستمر في إنتاج الأداء. إن معدل التوسع غير مستدام حقًا ، حيث قامت شركة OpenAI بتوسيع النموذج بملايين المرات في بضع سنوات فقط ، ولا يعد الاستمرار في القيام بذلك في المستقبل أمرًا مستدامًا. هذا لا يعني أن OpenAI لن تستمر في محاولة جعل النماذج أكبر ، فهذا يعني فقط أنها ستتضاعف أو تتضاعف ثلاث مرات فقط كل عام ، بدلاً من العديد من الطلبات من حيث الحجم.
قال ألتمان إن حقيقة أن قوانين التوسع لا تزال سارية لها آثار مهمة على الجداول الزمنية لتطوير الذكاء الاصطناعي العام. يفترض قانون التوسع أنه من المحتمل أن يكون لدينا بالفعل معظم الأجزاء اللازمة لبناء الذكاء الاصطناعي العام ، وأن معظم العمل المتبقي سيؤدي إلى توسيع نطاق الأساليب الحالية لتشمل نماذج أكبر ومجموعات بيانات أكبر. إذا انتهى عصر قوانين التوسع ، فمن المحتمل أن نتوقع أن يكون الذكاء الاصطناعي العام بعيد المنال. حقيقة أن قوانين التوسع تستمر في العمل تشير بقوة إلى جدول زمني قصير لتحقيق الذكاء الاصطناعي العام.
شاهد النسخة الأصلية
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
كشف ألتمان الأخير: هناك نقص مُلح في وحدات معالجة الرسومات ، وخطط لفتح المصدر GPT-3 ، وفتح وسائط متعددة العام المقبل
المصدر: الورقة
المراسل شاو ون
بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يعتقد أن النموذج الحالي خطير ويعتقد أنه سيكون من الخطأ الكبير تنظيمه أو حظره.
· تُظهر البيانات الداخلية لـ OpenAI أن قوانين التحجيم الخاصة بأداء النموذج (قوانين القياس) لا تزال سارية ، مما يجعل النموذج أكبر سيستمر في إنتاج الأداء.
في الأسبوع الماضي ، عقد أكثر من 20 مطورًا ، بما في ذلك الرئيس التنفيذي لشركة OpenAI Sam Altman ومنصة تطوير AI HumanLoop الرئيس التنفيذي رضا حبيب ، اجتماعًا مغلقًا لمناقشة OpenAI's API (واجهة برمجة التطبيقات) وخطط المنتج. بعد أيام قليلة ، نشر رضا حبيبي ملخصًا تفصيليًا لأبرز الأحداث في الاجتماع.
في المناقشة ، اعترف ألتمان بصراحة شديدة أن OpenAI مقيد حاليًا بوحدة معالجة الرسومات GPU ، وتحدث عن خطة المصدر المفتوح لـ GPT-3 وأولوية OpenAI الحالية والتأثير الاجتماعي للذكاء الاصطناعي. بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يرى أن النموذج الحالي خطير.
قال ألتمان أيضًا أن البيانات الداخلية لـ OpenAI تُظهر أن القانون الذي ينص على أن أداء النموذج يتناسب مع المقياس لا يزال صحيحًا ، أي أنه كلما كان النموذج أكبر ، كان الأداء أقوى. ستستمر OpenAI في محاولة جعل النماذج أكبر ، لكن من المحتمل أن يتضاعف حجمها أو يتضاعف ثلاث مرات فقط كل عام ، وليس بأعداد كبيرة.
** حاليًا مقيدة بشدة بواسطة وحدة معالجة الرسومات **
كان الموضوع المتكرر طوال المناقشة هو أن اعتماد OpenAI الحالي الكبير على وحدات معالجة الرسومات قد أخر العديد من خططها قصيرة المدى.
تلقت OpenAI معظم شكاوى المستخدمين حول موثوقية وسرعة واجهة برمجة التطبيقات. فهم ألتمان مخاوفهم وأوضح أن الكثير من المشكلة كان ناتجًا عن نقص موارد وحدة معالجة الرسومات.
لا يمكن توسيع وظيفة سياق 32k tokens المدعومة سابقًا بواسطة ChatGPT لتشمل المزيد من الأشخاص ، ولا يزال لدى OpenAI بعض المشكلات التي يجب حلها ، لذلك على الرغم من أنه قد يكون لديهم قريبًا نافذة سياق 100k-1M tokens ، إلا أنهم لا يزالون بحاجة إلى الحصول عليها في اختراق البحث.
كما أن واجهة برمجة التطبيقات للضبط الدقيق محدودة حاليًا بموارد وحدة معالجة الرسومات. لم يستخدموا بعد أساليب ضبط فعالة مثل المحولات أو LoRa (طريقتان شائعتان للضبط الدقيق للنماذج الكبيرة) ، لذا فإن عملية الضبط الدقيق والإدارة تتطلب موارد حسابية شديدة. ستكون هناك طرق أفضل للضبط الدقيق في المستقبل. قد يستضيفون أيضًا سوقًا للنماذج التي يساهم بها المجتمع.
يتم أيضًا تقييد توفير السعة المخصصة بواسطة موارد وحدة معالجة الرسومات. يوفر OpenAI سعة مخصصة للعملاء ذوي الاحتياجات الخاصة ، مما يسمح للعملاء بتشغيل البيانات الخاصة في مساحة مخصصة. للوصول إلى هذه الخدمة ، يجب على العملاء الالتزام بسلفة قدرها 100000 دولار.
** خارطة طريق OpenAI **
شارك Sam خارطة طريق مؤقتة قصيرة المدى لواجهة برمجة تطبيقات OpenAI.
في عام 2023 ، تتمثل المهمة الأولى في تحقيق GPT-4 أرخص وأسرع ؛ وثانيًا ، نافذة سياق أطول - في المستقبل القريب ، قد تصل نافذة السياق إلى مليون رمز مميز ؛ ثالثًا ، ستتوسع واجهة برمجة التطبيقات للضبط الدقيق إلى أحدث طراز ، ولكن سيتم تحديد النموذج المحدد من خلال الاحتياجات الفعلية للمطورين ؛ رابعًا ، واجهة برمجة تطبيقات ذات الحالة - عند استدعاء واجهة برمجة تطبيقات الدردشة اليوم ، من الضروري تمرير نفس محفوظات المحادثة بشكل متكرر ودفع نفس الرموز بشكل متكرر. في المستقبل ، سيكون هناك إصدار API يتذكر محفوظات المحادثات.
في عام 2024 ، سيتم فتح قدرات الوسائط المتعددة. عندما تم إصدار GPT-4 ، أظهر إمكانات قوية متعددة الوسائط ، ولكن حتى يتم استيفاء وحدات معالجة الرسومات ، لا يمكن توسيع هذه الإمكانية لتشمل الجميع.
يهتم العديد من المطورين بالوصول إلى مكونات ChatGPT الإضافية من خلال واجهة برمجة التطبيقات ، لكن Altman لا يعتقد أنه سيتم إصدار هذه المكونات الإضافية على المدى القصير. بالإضافة إلى التصفح ، لم يعثر نظام المكونات الإضافية على PMF (Product Market Fit ، أفضل ملاءمة بين المنتج والسوق).
أشار ألتمان إلى أن الكثير من الناس يعتقدون أنهم يريدون أن يكون تطبيقهم داخل ChatGPT ، لكن ما يريدونه حقًا هو ChatGPT داخل التطبيق.
قال ألتمان أن OpenAI لن تصدر المزيد من المنتجات من ChatGPT.
قال إنه وفقًا للاتفاقية ، سيكون للمنصة الرائعة تطبيق قاتل ، وستقوم ChatGPT بإنشاء هذا التطبيق الذي يحطم الأرقام القياسية. تتمثل رؤية ChatGPT في أن تكون مساعدًا فائق الذكاء للعمل ، ولكن هناك العديد من حالات استخدام GPT الأخرى التي لن تلمسها OpenAI.
** قوانين التوسع لا تزال سارية **
بينما يدعو ألتمان إلى تنظيم مستقبل الذكاء الاصطناعي ، فإنه لا يعتقد أن النموذج الحالي خطير ويعتقد أنه سيكون من الخطأ الكبير تنظيمه أو حظره.
وكرر إيمانه بأهمية المصدر المفتوح وقال إن OpenAI تدرس جعل GPT-3 مفتوح المصدر. السبب في عدم كونه مفتوح المصدر هو أنهم يشعرون أنه ليس لدى الكثير من الأشخاص والشركات القدرة على إدارة مثل هذا النموذج اللغوي الضخم بشكل صحيح.
نقلت العديد من المقالات الحديثة عن ألتمان قوله إن "عصر نماذج الذكاء الاصطناعي العملاقة قد انتهى" ، لكن هذا لا يعكس معناه الأصلي بدقة. وقال إن البيانات الداخلية لـ OpenAI تظهر أن قوانين التحجيم لأداء النموذج (قوانين القياس) لا تزال سارية ، مما يجعل النموذج أكبر سيستمر في إنتاج الأداء. إن معدل التوسع غير مستدام حقًا ، حيث قامت شركة OpenAI بتوسيع النموذج بملايين المرات في بضع سنوات فقط ، ولا يعد الاستمرار في القيام بذلك في المستقبل أمرًا مستدامًا. هذا لا يعني أن OpenAI لن تستمر في محاولة جعل النماذج أكبر ، فهذا يعني فقط أنها ستتضاعف أو تتضاعف ثلاث مرات فقط كل عام ، بدلاً من العديد من الطلبات من حيث الحجم.
قال ألتمان إن حقيقة أن قوانين التوسع لا تزال سارية لها آثار مهمة على الجداول الزمنية لتطوير الذكاء الاصطناعي العام. يفترض قانون التوسع أنه من المحتمل أن يكون لدينا بالفعل معظم الأجزاء اللازمة لبناء الذكاء الاصطناعي العام ، وأن معظم العمل المتبقي سيؤدي إلى توسيع نطاق الأساليب الحالية لتشمل نماذج أكبر ومجموعات بيانات أكبر. إذا انتهى عصر قوانين التوسع ، فمن المحتمل أن نتوقع أن يكون الذكاء الاصطناعي العام بعيد المنال. حقيقة أن قوانين التوسع تستمر في العمل تشير بقوة إلى جدول زمني قصير لتحقيق الذكاء الاصطناعي العام.