.png){kind=logo}
.jpeg)
يوم الجمعة الماضي في مؤتمر نظم المعلومات والمعالجة العصبية في مونتريال ، كندا ، أعلن فريق من نجوم الذكاء الاصطناعي ، شركة OpenAI ، وهي شركة غير ربحية تهدف إلى تغيير عالم التعلم الآلي.
بدعم من Tesla و Space X's Elon Musk و Y Combinator's Sam Altman ، تتمتع OpenAI بميزانية ضخمة وحتى أهداف أكبر. مع مليار دولار من التمويل الأولي ، تتجنب شركة OpenAI الحاجة إلى تحقيق مكاسب مالية ، مما يسمح لها بوضع نفسها على أسس أخلاقية عالية الارتفاع.
من خلضطرار إلى الرد على الصناعة أو الأوساط الأكاديمية ، تأمل شركة OpenAI في التركيز ليس فقط على تطوير الذكاء الرقمي ، ولكن أيضًا توجيه البحث على طول مسار أخلاقي ، وفقًا لمنشور المدونة الافتتاحي ، "يفيد البشرية ككل".
بدأت شركة OpenAI بالصورة الكبيرة في الاعتبار: في غضون 100 عام ، ما الذي سيتمكن الذكاء الاصطناعي من تحقيقه ، وهل يجب أن نشعر بالقلق؟ إذا تُركت في أيدي شركات التكنولوجيا العملاقة الهادفة للربح مثل Google و Facebook و Apple ، وجميعهم استثمروا بسهولة في تطوير أنظمة الذكاء الاصطناعي الخاصة بهم في السنوات القليلة الماضية ، فهل يمكن للذكاء الاصطناعي - والأنظمة الذكية المستقبلية - أن تنكسر نقطة وخرج عن نطاق السيطرة؟ هل يمكن للحكومات أن تصطاد الذكاء الاصطناعي لمراقبة مواطنيها والسيطرة عليهم؟ هل يمكن ، كما حذر إيلون ماسك في وقت سابق من هذا العام ، أن يدمر البشرية في النهاية؟
منذ إطلاقها الأولي في وقت سابق من هذا العام ، قامت شركة OpenAI بقص قشدة المحصول جراحيًا في مجال التعلم العميق لتجميع فريقها. من بين أفضل المواهب الشابة لديها Andrej Karpathy ، مرشح الدكتوراه في جامعة ستانفورد ، وتشمل سيرته الذاتية تدريبًا داخليًا في Google و DeepMind ، شركة الذكاء الاصطناعي السرية التي تتخذ من لندن مقراً لها والتي اشترتها Google في 2014.
يوم الثلاثاء الماضي ، جلست مع Andrej للدردشة حول روح OpenAI ورؤيتها ، وخطواتها الأولية وتركيزها ، بالإضافة إلى مستقبل الذكاء الاصطناعي والذكاء الخارق. تم اختصار المقابلة وتحريرها من أجل الوضوح.
كيف نشأت أوبن إيه آي؟
في وقت سابق من هذا العام ، ترك جريج [بروكمان] ، الذي اعتاد أن يكون كبير التكنولوجيا في Stripe ، الشركة تتطلع إلى القيام بشيء مختلف قليلاً. لديه اهتمام طويل الأمد بالذكاء الاصطناعي ، لذلك كان يتساءل ، متلاعبًا بفكرة شركة ناشئة للذكاء الاصطناعي تركز على الأبحاث. لقد وصل إلى الميدان وحصل على أسماء الأشخاص الذين يقومون بعمل جيد وانتهى به الأمر إلى تقريبنا.
في نفس الوقت ، أصبح Sam [Altman] من YC مهتمًا جدًا بهذا أيضًا. إحدى الطرق التي يشجع بها YC الابتكار هي العمل كمسرّع لبدء التشغيل ؛ آخر من خلال مختبرات البحث. لذلك ، افتتح Sam مؤخرًا YC Research ، وهي منظمة بحثية شاملة ، و OpenAI هو أو سيصبح أحد المختبرات.
بالنسبة إلى Elon - من الواضح أنه كان لديه مخاوف بشأن الذكاء الاصطناعي لفترة من الوقت ، وبعد العديد من المحادثات ، قفز على متن OpenAI على أمل مساعدة الذكاء الاصطناعي على التطور بطريقة مفيدة وآمنة.
ما مدى تأثير الممولين على كيفية قيام OpenAI بأبحاثها؟
ما زلنا في مراحل مبكرة جدًا ، لذا لست متأكدًا من كيفية عمل ذلك. قال إيلون إنه يرغب في العمل معنا مرة واحدة في الأسبوع تقريبًا. انطباعي هو أنه لا ينوي القدوم وإخبارنا بما يجب القيام به - كانت تفاعلاتنا الأولى أكثر على غرار "أخبرني بالطريقة التي يمكنني أن أكون بها مفيدة". شعرت بموقف مماثل من سام وآخرين.
حقق الذكاء الاصطناعي قفزات في الآونة الأخيرة ، مع مساهمات من الأوساط الأكاديمية وشركات التكنولوجيا الكبرى والشركات الناشئة الذكية. ما الذي يمكن أن تأمل أوبن إيه آي في تحقيقه من خلال وضعكم معًا في نفس الغرفة التي لا يمكنك القيام بها الآن كشبكة موزعة؟
أنا مؤمن بشدة بجمع الأشخاص معًا جسديًا في نفس المكان وجعلهم يتحدثون. سيكون مفهوم شبكة الأشخاص المتعاونين عبر المؤسسات أقل كفاءة بكثير ، خاصة إذا كان لديهم جميعًا حوافز وأهدافًا مختلفة قليلاً.
بشكل أكثر تجريدًا ، فيما يتعلق بتطوير الذكاء الاصطناعي كتقنية ، ما الذي يمكن أن تفعله OpenAI بحيث لا تستطيع المؤسسات البحثية الحالية أو الشركات أو التعلم العميق كمجال؟
يأتي الكثير منها من شركة OpenAI باعتبارها مؤسسة غير ربحية. ما يحدث الآن في الذكاء الاصطناعي هو أن لديك عددًا محدودًا جدًا من المعامل البحثية والشركات الكبيرة ، مثل Google ، التي توظف الكثير من الباحثين الذين يقومون بأعمال رائدة. لنفترض الآن أن الذكاء الاصطناعي يمكن أن يصبح يومًا ما - بسبب عدم وجود كلمة أفضل - خطيرًا ، أو يستخدمه الناس بشكل خطير. ليس من الواضح ما إذا كنت ترغب في أن يكون لشركة كبيرة هادفة للربح زمام المبادرة بشكل كبير ، أو حتى احتكار البحث. إنها في المقام الأول مسألة حوافز ، وحقيقة أنها لا تتماشى بالضرورة مع ما هو جيد للإنسانية. نحن نخبز ذلك في حمضنا النووي منذ البداية.
أيضًا ، هناك بعض الفوائد لكوني منظمة غير ربحية لم أكن أقدرها حقًا حتى الآن. يتواصل الناس في الواقع ويقولون "نريد المساعدة" ؛ لا تحصل على هذا في الشركات ؛ لا يمكن تصوره. نتلقى رسائل بريد إلكتروني من عشرات الأماكن - يعرض الأشخاص المساعدة ، ويقدمون خدماتهم ، والتعاون ، ويقدمون قوة وحدة معالجة الرسومات. الناس على استعداد تام للتفاعل معك ، وفي النهاية ، ستدفع أبحاثنا إلى الأمام ، وكذلك الذكاء الاصطناعي كمجال.
يبدو أن OpenAI مبني على الصورة الكبيرة - كيف سيفيد الذكاء الاصطناعي البشرية ، وكيف يمكن أن يدمرنا جميعًا في النهاية. حذر إيلون مرارًا وتكرارًا من تطوير الذكاء الاصطناعي غير الخاضع للرقابة. في رأيك ، هل الذكاء الاصطناعي يمثل تهديدًا؟
عندما يتحدث إيلون عن المستقبل ، يتحدث عن عشرات أو مئات السنين من الآن ، وليس 5 أو 10 سنوات التي يفكر فيها معظم الناس. لا أرى أن الذكاء الاصطناعي يمثل تهديدًا على مدى السنوات الخمس أو العشر القادمة ، بخلاف تلك التي قد تتوقعها من زيادة الاعتماد على الأتمتة ؛ ولكن إذا نظرنا إلى البشرية التي تسكن كوكب المريخ بالفعل (إلى هذا الحد في المستقبل) ، فحينئذٍ لدي الكثير من عدم اليقين ، وبالتأكيد ، قد يتطور الذكاء الاصطناعي بطرق يمكن أن تشكل تحديات خطيرة.
أعتقد أن القول بأن الذكاء الاصطناعي سيدمر البشرية موجود في أفق مدته خمس سنوات ؛ ولكن إذا نظرنا إلى البشرية التي تسكن كوكب المريخ بالفعل (إلى هذا الحد في المستقبل) ، فقد يكون الذكاء الاصطناعي مشكلة خطيرة.
شيء واحد نراه هو أن الكثير من التقدم يحدث بسرعة كبيرة. على سبيل المثال ، شهدت رؤية الكمبيوتر تحولًا كاملاً - فالأوراق منذ أكثر من ثلاث سنوات تبدو الآن أجنبية في مواجهة الأساليب الحديثة. لذلك عندما نبتعد أكثر على مدى عقود ، أعتقد أن لدي توزيعًا واسعًا إلى حد ما على المكان الذي يمكن أن نكون فيه. لذلك قل أن هناك فرصة بنسبة 1٪ لحدوث شيء مجنون ورائد. عندما تضاعف ذلك أيضًا من خلال فائدة عدد قليل من الشركات الربحية التي تحتكر هذه التقنية ، فعندئذٍ ، نعم ، سيبدو الأمر مخيفًا.
هل تعتقد أنه يجب علينا وضع قيود على أبحاث الذكاء الاصطناعي لضمان السلامة؟
لا ، ليس تنازليًا ، على الأقل الآن. بشكل عام ، أعتقد أنه طريق أكثر أمانًا أن يكون لديك المزيد من خبراء الذكاء الاصطناعي الذين لديهم وعي مشترك بالعمل في هذا المجال. قد يكون فتح البحث مثل ما تريد OpenAI القيام به ، بدلاً من احتكار الكيانات التجارية للنتائج لأغراض الملكية الفكرية ، طريقة جيدة للذهاب.
صحيح ، لكن الشركات الربحية تطلق تقنيتها أيضًا مؤخرًا - أفكر في TensorFlow من Google و Torch من Facebook. بهذا المعنى ، كيف تختلف OpenAI في نهجها "البحث المفتوح"؟
لذلك عندما تقول "إطلاق" ، فهناك بعض الأشياء التي تحتاج إلى توضيح. أولا الفيسبوك لم يطلق سراح Torch؛ Torch هي مكتبة موجودة منذ عدة سنوات حتى الآن. لقد التزم Facebook بـ Torch وهو يعمل على تحسينه. وكذلك ديب مايند.
لكن TensorFlow و Torch ليست سوى نقاط صغيرة من أبحاثهم - إنها أدوات يمكن أن تساعد الآخرين على إجراء البحوث بشكل جيد ، لكنها ليست نتائج فعلية يمكن للآخرين البناء عليها.
ومع ذلك ، فمن الصحيح أن العديد من هذه المختبرات الصناعية قد أنشأت مؤخرًا سجلاً جيدًا لنشر نتائج الأبحاث ، ويرجع ذلك جزئيًا إلى أن عددًا كبيرًا من الأشخاص في الداخل ينتمون إلى الأوساط الأكاديمية. لا يزال هناك غطاء من السرية يحيط بجزء كبير من العمل ، وليس كل شيء يخرج عنه. في النهاية ، ليس لدى الشركات حوافز قوية جدًا للمشاركة.
من ناحية أخرى ، تشجعنا شركة OpenAI على النشر وإشراك الجمهور والأوساط الأكاديمية والتغريد والتدوين. لقد وقعت في مشكلة في الماضي بسبب مشاركة الكثير من داخل الشركات ، لذلك أنا شخصياً ، أستمتع حقًا بالحرية.
ماذا لو توصلت شركة OpenAI إلى خوارزمية من المحتمل أن تغير قواعد اللعبة ويمكن أن تؤدي إلى الذكاء الخارق؟ ألن يزيد النظام البيئي المفتوح بالكامل من خطر إساءة استخدام التكنولوجيا؟
بمعنى أنه نوع من مثل كريسبر. تعد تقنية CRISPR قفزة هائلة في مجال تحرير الجينوم التي كانت موجودة منذ بضع سنوات فقط ، ولكن لديها إمكانات كبيرة لإفادة - وإيذاء - البشرية. بسبب هذه القضايا الأخلاقية ، كان هناك مؤتمر حديث حول هذا الموضوع في العاصمة لمناقشة كيفية المضي قدمًا معه كمجتمع.
إذا حدث شيء من هذا القبيل في الذكاء الاصطناعي أثناء بحث OpenAI - حسنًا ، سيتعين علينا التحدث عنه. لسنا ملزمين بمشاركة كل شيء - وبهذا المعنى فإن اسم الشركة تسمية خاطئة - لكن روح الشركة هي أننا نقوم بذلك بشكل افتراضي.
في النهاية ، إذا كانت هناك فرصة ضئيلة لحدوث شيء مجنون في أبحاث الذكاء الاصطناعي ، وكل شيء آخر متساوٍ ، فهل تريد أن تتم هذه التطورات داخل شركة تجارية ، خاصة تلك التي تحتكر البحث ، أو هل تريد ذلك أن يحدث داخل منظمة غير ربحية؟
لدينا هذه الفلسفة المضمنة في حمضنا النووي منذ البداية أننا ندرك كيف يتطور الذكاء الاصطناعي ، بدلاً من مجرد [التركيز على] زيادة الأرباح.
في هذه الحالة ، هل OpenAI مرتاح لكونه حارس البوابة ، إذا جاز التعبير؟ أنت تؤثر بشدة على كيفية ذهاب هذا المجال وإلى أين يتجه.
إنها مسؤولية كبيرة. إنها حجة "أهون الشرين". أعتقد أنه لا يزال سيئًا. لكننا لسنا الوحيدين الذين "يتحكمون" في هذا المجال - نظرًا لطبيعتنا المفتوحة ، نرحب بالآخرين ونشجعهم على المشاركة في المناقشة. أيضا ، ما هو البديل؟ بطريقة ما ، تعتبر المنظمة غير الهادفة للربح ، مع المشاركة والأمان في حمضها النووي ، الخيار الأفضل للمجال وفائدة المجال.
أيضًا ، ليس الذكاء الاصطناعي هو المجال الوحيد الذي يدعو للقلق - أعتقد أن الحيوية هي مجال أكثر إلحاحًا من حيث تدمير العالم [ضحك]!
من حيث التوظيف - تنافس شركة OpenAI شركات التكنولوجيا العملاقة في وادي السيليكون. كيف تخطط الشركة لجذب كبار الباحثين في الذكاء الاصطناعي؟
لدينا اكراميات [يضحك].
لكن بكل جدية ، أعتقد أن مهمة الشركة وأعضاء الفريق كافيان. نحن حاليًا نوظف الأشخاص بنشاط ، ولا توجد مشكلة حتى الآن في إثارة حماسة الناس للانضمام إلينا. من عدة نواحٍ ، تجمع OpenAI بين أفضل الأوساط الأكاديمية وعالم الشركات الناشئة ، ولأننا منظمة غير ربحية ، فإننا نتمتع بأخلاقيات عالية ، وهو أمر رائع [يضحك].
الفريق ، على وجه الخصوص ، فريق قوي للغاية ومحكم للغاية وهذا جزء كبير من القرعة.
خذ بعض النجوم البارزين الصاعدين في هذا المجال - وأنا لست من بينهم - ضعهم معًا وستحصل على OpenAI. انضممت بشكل أساسي لأنني سمعت عن من هو في الفريق. بطريقة ما ، هذا هو الجزء الأكثر إثارة للصدمة ؛ وصفه أحد أصدقائي بأنه "اقتحام الهيكل". جاء جريج من العدم وحصل على أفضل الأشخاص للقيام بشيء رائع وصنع شيء جديد.
الآن بعد أن أصبح لدى OpenAI فريق من العلماء المتميزين ، ما هي استراتيجيتك لتطوير الذكاء الاصطناعي؟ هل تحصل على كميات هائلة من البيانات من Elon؟ ما هي المشاكل التي تعالجها أولا؟
لذلك نحن حقًا ما زلنا نحاول معرفة الكثير من هذا. نحن نحاول التعامل مع هذا بمزيج من التفكير من أسفل إلى أعلى ومن أعلى إلى أسفل. في الأسفل توجد الأوراق والأفكار المختلفة التي قد نرغب في العمل عليها. من أعلى إلى أسفل يفعل ذلك بطريقة تضيف ما يصل. نحن حاليًا بصدد التفكير في هذا الأمر.
على سبيل المثال ، لقد قدمت للتو مسودة اقتراح بحث لرؤية واحدة اليوم ، في الواقع [يضحك]. نحن نجمع القليل منهم معًا. وتجدر الإشارة أيضًا إلى أننا لا نعمل حاليًا بنشاط على أمان الذكاء الاصطناعي. يبدو أن الكثير من الأبحاث التي نضعها في الاعتبار حاليًا تبدو تقليدية. من حيث الرؤية العامة والفلسفة أعتقد أننا أكثر تشابهًا مع DeepMind.
قد نكون قادرين في مرحلة ما على الاستفادة من البيانات من شركات Elon أو YC ، ولكن في الوقت الحالي نعتقد أيضًا أنه يمكننا الذهاب بعيدًا في إنشاء مجموعات البيانات الخاصة بنا ، أو العمل مع مجموعات البيانات العامة الحالية التي يمكننا العمل عليها متزامنة مع الباقي من الأوساط الأكاديمية.
هل ستفكر شركة OpenAI في الدخول في الأجهزة ، لأن المستشعرات هي طريقة رئيسية للتفاعل مع البيئة؟
لذا ، نعم نحن مهتمون ، لكن الأجهزة بها الكثير من المشكلات. بالنسبة لنا ، هناك عالمان تقريبًا: عالم البتات وعالم الذرات. أنا شخصياً أميل إلى البقاء في عالم البتات في الوقت الحالي ، بمعنى آخر ، البرامج. يمكنك تشغيل الأشياء في السحابة ، فهي أسرع بكثير. عالم الذرات - مثل الروبوتات - ينكسر كثيرًا وعادة ما تكون دورة التكرار أبطأ بكثير. هذه مناقشة نشطة للغاية نجريها في الشركة الآن.
هل تعتقد أنه يمكننا بالفعل الوصول إلى الذكاء الاصطناعي المعمم؟
أعتقد أنه للوصول إلى الذكاء الخارق ، ربما نفتقد حاليًا الاختلافات من "النوع" ، بمعنى أننا لن نصل إلى هناك بمجرد تحسين أنظمتنا الحالية. لكن في الأساس ، لا يوجد شيء يمنعنا من الوصول إلى ذكاء يشبه الإنسان وما وراءه.
بالنسبة لي ، يتعلق الأمر في الغالب بـ "متى" بدلاً من "إذا".
لا أعتقد أننا بحاجة إلى محاكاة العقل البشري للوصول إلى ذكاء يشبه الإنسان ؛ يمكننا التصغير والتقريب لكيفية عملها. أعتقد أن هناك طريقًا أكثر وضوحًا. على سبيل المثال ، تُظهر بعض الأعمال الحديثة أن عمليات تنشيط ConvNet * تشبه إلى حد بعيد تنشيط منطقة تكنولوجيا المعلومات في القشرة البصرية البشرية ، دون محاكاة كيفية عمل الخلايا العصبية بالفعل.
[* SF: ConvNet ، أو الشبكة التلافيفية ، هي نوع من طوبولوجيا الشبكات العصبية الاصطناعية المصممة خصيصًا للمهام المرئية التي طورها Yann LeCun لأول مرة في التسعينيات. تكنولوجيا المعلومات هي القشرة الزمنية السفلية ، التي تعالج ميزات الكائن المعقدة.]
لذلك يبدو لي أنه باستخدام ConvNets ، قمنا بفحص أجزاء كبيرة من القشرة البصرية ، والتي توجد في مكان ما حوالي 30٪ من القشرة ، وربما لا تبدو بقية القشرة مختلفة تمامًا. لذلك لا أفهم كيف أنه على مدار عدة عقود من الزمن ، لا يمكننا إحراز تقدم جيد في التحقق من الباقي.
نقطة أخرى هي أنه ليس علينا بالضرورة أن نقلق بشأن الذكاء الاصطناعي على مستوى الإنسان. أنا أعتبر أن الذكاء الاصطناعي على مستوى الشمبانزي مخيف بنفس القدر ، لأن الانتقال من الشمبانزي إلى البشر لم يأخذ الطبيعة إلا في غمضة عين على المقاييس الزمنية التطورية ، وأظن أن هذا قد يكون هو الحال في عملنا أيضًا. وبالمثل ، أشعر أنه بمجرد أن نصل إلى هذا المستوى سيكون من السهل تجاوزنا والوصول إلى الذكاء الخارق.
لكن من الناحية الإيجابية ، ما يمنحني العزاء هو أنه عندما تنظر إلى مجالنا تاريخيًا ، فإن صورة بحث الذكاء الاصطناعي الذي يتقدم بسلسلة من الإنجازات غير المتوقعة "eureka" خاطئة. لا توجد سابقة تاريخية لمثل هذه اللحظات. بدلاً من ذلك ، نشهد الكثير من التقدم السريع والمتسارع ، ولكن لا يزال تقدمًا تدريجيًا. لذلك دعونا نستخدم هذه التكنولوجيا الرائعة في الاستخدام الجيد في مجتمعنا مع مراقبة كيفية تطورها جميعًا.
تعليقات: (0) إضافة تعليق
يسعدنا ارسال تعليق منك ..ما تعليقك ؟