زمردة ❥
02-01-2025, 11:17 PM
أحدثت شركة التكنولوجيا الصينية الناشئة DeepSeek ضجة كبيرة في عالم التكنولوجيا بإطلاقها نموذجين لغويين كبيرين ينافسان أداء الأدوات المهيمنة التي طورتها شركات التكنولوجيا الأمريكية العملاقة، ولكن تم بناؤهما بجزء بسيط من التكلفة وقوة الحوسبة.
ووفقًا لما ذكره موقع "nature"، فإنه في 20 يناير، أصدرت الشركة التي يقع مقرها في هانجتشو DeepSeek-R1، وهو نموذج "استدلال" مفتوح المصدر جزئيًا يمكنه حل بعض المشكلات العلمية بمعيار مماثل لـ o1، ويعد نموذج اللغة الأكثر تقدمًا من OpenAI، والذي كشفت عنه الشركة، ومقرها سان فرانسيسكو بكاليفورنيا، في أواخر العام الماضي.
وفي وقت سابق من هذا الأسبوع، أطلقت DeepSeek نموذجًا آخر يسمى Janus-Pro-7B، والذي يمكنه إنشاء صور من مطالبات نصية مثل DALL-E 3 وStable Diffusion من OpenAI، من صنع Stability AI في لندن.
وإذا فاجأ أداء DeepSeek-R1 العديد من الأشخاص خارج الصين، فإن الباحثين داخل البلاد يقولون إن نجاح الشركة الناشئة متوقع ويتناسب مع طموح الحكومة لتصبح رائدة عالمية في مجال الذكاء الاصطناعي.
يقول يونجي تشين، عالم الكمبيوتر الذي يعمل على رقائق الذكاء الاصطناعي في معهد تكنولوجيا الحوسبة التابع للأكاديمية الصينية للعلوم في بكين، إنه كان من المحتم أن تظهر شركة مثل DeepSeek في الصين، نظرًا للاستثمار الضخم في رأس المال الاستثماري في الشركات التي تطور البرامج والعديد من الأشخاص الذين يحملون شهادات الدكتوراه في مجالات العلوم أو التكنولوجيا أو الهندسة أو الرياضيات، بما في ذلك الذكاء الاصطناعي.
أولوية الحكومة
في عام 2017، أعلنت الحكومة الصينية عن نيتها في أن تصبح البلاد رائدة العالم في مجال الذكاء الاصطناعي بحلول عام 2030.
وكلفت الصناعة بإكمال الابتكارات الكبرى في مجال الذكاء الاصطناعي بحيث تصل التقنيات والتطبيقات إلى مستوى رائد عالميًا بحلول عام 2025.
أصبح تطوير خط "مواهب الذكاء الاصطناعي" أولوية، وبحلول عام 2022، وافقت وزارة التعليم الصينية على 440 جامعة لتقديم درجات جامعية متخصصة في الذكاء الاصطناعي، وفقًا لتقرير صادر عن مركز الأمن والتكنولوجيا الناشئة (CSET) في جامعة جورج تاون في واشنطن العاصمة.
وتقول مارينا تشانج، الباحثة في سياسة العلوم في جامعة سيدني للتكنولوجيا في أستراليا والتي تركز على الابتكار في الصين، إن شركة DeepSeek ربما استفادت من استثمار الحكومة في تعليم الذكاء الاصطناعي وتنمية المواهب، والذي يشمل العديد من المنح الدراسية ومنح البحث والشراكات بين الأوساط الأكاديمية والصناعة، على سبيل المثال، تضيف أن المبادرات المدعومة من الدولة مثل المختبر الوطني للهندسة لتكنولوجيا التعلم العميق والتطبيق، والذي تقوده شركة التكنولوجيا بايدو في بكين، دربت الآلاف من المتخصصين في الذكاء الاصطناعي.
يقول جاكوب فيلدجويس، الذي يدرس مواهب الذكاء الاصطناعي في الصين في CSET، إن السياسات الوطنية التي تروج لنظام بيئي لتطوير النماذج للذكاء الاصطناعي ستساعد شركات مثل DeepSeek، من حيث جذب التمويل والمواهب.
الكفاءة فى ظل القيود
ربما يكون العنصر الأكثر إثارة للإعجاب في نجاح DeepSeek، كما يقول العلماء، هو أنها طورت DeepSeek-R1 و Janus-Pro-7B وسط ضوابط التصدير التي فرضتها الحكومة الأمريكية، والتي منعت وصول الصين إلى شرائح الحوسبة المتقدمة للذكاء الاصطناعي منذ عام 2022.
يقول تشانج إن قيادة DeepSeek تجسد نهجًا صينيًا مميزًا للابتكار، مع التركيز على الكفاءة في ظل القيود.
قالت شركة DeepSeek إنها استخدمت حوالي 2000 شريحة H800 التي انشأتها شركة صناعة الرقائق الأمريكية Nvidia لتدريب DeepSeek-V3، وهو نموذج أصدرته في ديسمبر 1 والذي يتفوق على LLM GPT-4o من OpenAI، والذي تم إطلاقه في مايو من العام الماضي، في اختبارات المعايير.
وعلى النقيض من ذلك، تعتمد Llama 3.1 405B، وهي LLM متطورة تم إصدارها في يوليو من Meta في مينلو بارك، كاليفورنيا، على أكثر من 16000 من شرائح H100 Nvidia الأكثر تقدمًا.
وفي منشور عام 2022 على منصة التواصل الاجتماعي WeChat، قالت High-Flyer إنها تمتلك 10000 من شرائح A100 الأقدم من Nvidia، والتي ربما يكون لدى DeepSeek إمكانية الوصول إليها.
ربما أدى استخدام DeepSeek لشرائح أقل قوة إلى جعل نماذجها أرخص في البناء، ولم تكن المشكلة فى المال أبدًا، بل الحظر المفروض على الرقائق عالية الجودة.
تعتمد DeepSeek على مجموعة متنوعة من الأساليب لتعزيز كفاءة نماذجها، على سبيل المثال، تنشر طريقة تعلم آلي تدرب النماذج بشكل أسرع من التقنيات التقليدية، وبمعلمات أقل.
يقول تشانج شو، عالم الكمبيوتر في جامعة سيدني، إن هذا يمكن الشركة من تدريب النماذج باستخدام عدد أقل من الرقائق.
كما تستخدم نسخة مبتكرة من تقنية أخرى، تسمى الانتباه الكامن متعدد الرؤوس، والتي تسمح للنموذج بتخزين المزيد من البيانات مع ذاكرة أقل.
يقول يانبو وانج، الباحث في سياسة العلوم الذي يركز على الابتكار في جامعة هونج كونج، إن إنجازات DeepSeek يمكن أن تقدم مخططًا للدول التي لديها طموحات في مجال الذكاء الاصطناعي ولكنها تفتقر إلى الموارد المالية والأجهزة اللازمة لتدريب نماذج الذكاء الاصطناعى باستخدام نهج وادي السيليكون القياسي، ويضيف: "قد يؤدي هذا إلى إنشاء جيش كبير من النماذج الجديدة".
ووفقًا لما ذكره موقع "nature"، فإنه في 20 يناير، أصدرت الشركة التي يقع مقرها في هانجتشو DeepSeek-R1، وهو نموذج "استدلال" مفتوح المصدر جزئيًا يمكنه حل بعض المشكلات العلمية بمعيار مماثل لـ o1، ويعد نموذج اللغة الأكثر تقدمًا من OpenAI، والذي كشفت عنه الشركة، ومقرها سان فرانسيسكو بكاليفورنيا، في أواخر العام الماضي.
وفي وقت سابق من هذا الأسبوع، أطلقت DeepSeek نموذجًا آخر يسمى Janus-Pro-7B، والذي يمكنه إنشاء صور من مطالبات نصية مثل DALL-E 3 وStable Diffusion من OpenAI، من صنع Stability AI في لندن.
وإذا فاجأ أداء DeepSeek-R1 العديد من الأشخاص خارج الصين، فإن الباحثين داخل البلاد يقولون إن نجاح الشركة الناشئة متوقع ويتناسب مع طموح الحكومة لتصبح رائدة عالمية في مجال الذكاء الاصطناعي.
يقول يونجي تشين، عالم الكمبيوتر الذي يعمل على رقائق الذكاء الاصطناعي في معهد تكنولوجيا الحوسبة التابع للأكاديمية الصينية للعلوم في بكين، إنه كان من المحتم أن تظهر شركة مثل DeepSeek في الصين، نظرًا للاستثمار الضخم في رأس المال الاستثماري في الشركات التي تطور البرامج والعديد من الأشخاص الذين يحملون شهادات الدكتوراه في مجالات العلوم أو التكنولوجيا أو الهندسة أو الرياضيات، بما في ذلك الذكاء الاصطناعي.
أولوية الحكومة
في عام 2017، أعلنت الحكومة الصينية عن نيتها في أن تصبح البلاد رائدة العالم في مجال الذكاء الاصطناعي بحلول عام 2030.
وكلفت الصناعة بإكمال الابتكارات الكبرى في مجال الذكاء الاصطناعي بحيث تصل التقنيات والتطبيقات إلى مستوى رائد عالميًا بحلول عام 2025.
أصبح تطوير خط "مواهب الذكاء الاصطناعي" أولوية، وبحلول عام 2022، وافقت وزارة التعليم الصينية على 440 جامعة لتقديم درجات جامعية متخصصة في الذكاء الاصطناعي، وفقًا لتقرير صادر عن مركز الأمن والتكنولوجيا الناشئة (CSET) في جامعة جورج تاون في واشنطن العاصمة.
وتقول مارينا تشانج، الباحثة في سياسة العلوم في جامعة سيدني للتكنولوجيا في أستراليا والتي تركز على الابتكار في الصين، إن شركة DeepSeek ربما استفادت من استثمار الحكومة في تعليم الذكاء الاصطناعي وتنمية المواهب، والذي يشمل العديد من المنح الدراسية ومنح البحث والشراكات بين الأوساط الأكاديمية والصناعة، على سبيل المثال، تضيف أن المبادرات المدعومة من الدولة مثل المختبر الوطني للهندسة لتكنولوجيا التعلم العميق والتطبيق، والذي تقوده شركة التكنولوجيا بايدو في بكين، دربت الآلاف من المتخصصين في الذكاء الاصطناعي.
يقول جاكوب فيلدجويس، الذي يدرس مواهب الذكاء الاصطناعي في الصين في CSET، إن السياسات الوطنية التي تروج لنظام بيئي لتطوير النماذج للذكاء الاصطناعي ستساعد شركات مثل DeepSeek، من حيث جذب التمويل والمواهب.
الكفاءة فى ظل القيود
ربما يكون العنصر الأكثر إثارة للإعجاب في نجاح DeepSeek، كما يقول العلماء، هو أنها طورت DeepSeek-R1 و Janus-Pro-7B وسط ضوابط التصدير التي فرضتها الحكومة الأمريكية، والتي منعت وصول الصين إلى شرائح الحوسبة المتقدمة للذكاء الاصطناعي منذ عام 2022.
يقول تشانج إن قيادة DeepSeek تجسد نهجًا صينيًا مميزًا للابتكار، مع التركيز على الكفاءة في ظل القيود.
قالت شركة DeepSeek إنها استخدمت حوالي 2000 شريحة H800 التي انشأتها شركة صناعة الرقائق الأمريكية Nvidia لتدريب DeepSeek-V3، وهو نموذج أصدرته في ديسمبر 1 والذي يتفوق على LLM GPT-4o من OpenAI، والذي تم إطلاقه في مايو من العام الماضي، في اختبارات المعايير.
وعلى النقيض من ذلك، تعتمد Llama 3.1 405B، وهي LLM متطورة تم إصدارها في يوليو من Meta في مينلو بارك، كاليفورنيا، على أكثر من 16000 من شرائح H100 Nvidia الأكثر تقدمًا.
وفي منشور عام 2022 على منصة التواصل الاجتماعي WeChat، قالت High-Flyer إنها تمتلك 10000 من شرائح A100 الأقدم من Nvidia، والتي ربما يكون لدى DeepSeek إمكانية الوصول إليها.
ربما أدى استخدام DeepSeek لشرائح أقل قوة إلى جعل نماذجها أرخص في البناء، ولم تكن المشكلة فى المال أبدًا، بل الحظر المفروض على الرقائق عالية الجودة.
تعتمد DeepSeek على مجموعة متنوعة من الأساليب لتعزيز كفاءة نماذجها، على سبيل المثال، تنشر طريقة تعلم آلي تدرب النماذج بشكل أسرع من التقنيات التقليدية، وبمعلمات أقل.
يقول تشانج شو، عالم الكمبيوتر في جامعة سيدني، إن هذا يمكن الشركة من تدريب النماذج باستخدام عدد أقل من الرقائق.
كما تستخدم نسخة مبتكرة من تقنية أخرى، تسمى الانتباه الكامن متعدد الرؤوس، والتي تسمح للنموذج بتخزين المزيد من البيانات مع ذاكرة أقل.
يقول يانبو وانج، الباحث في سياسة العلوم الذي يركز على الابتكار في جامعة هونج كونج، إن إنجازات DeepSeek يمكن أن تقدم مخططًا للدول التي لديها طموحات في مجال الذكاء الاصطناعي ولكنها تفتقر إلى الموارد المالية والأجهزة اللازمة لتدريب نماذج الذكاء الاصطناعى باستخدام نهج وادي السيليكون القياسي، ويضيف: "قد يؤدي هذا إلى إنشاء جيش كبير من النماذج الجديدة".