عادت PrismML إلى الأخبار اليوم بعد أن أخبر الرئيس التنفيذي لشركة AI الناشئة سي ان بي سي أن أبل تبحث في تكنولوجيا الشركة. أصدرت الشركة أيضًا طراز Bonsai 27B الذي تقول إنه يعمل على أجهزة iPhone وiPad وMac.
تصدرت PrismML عناوين الأخبار لأول مرة الأسبوع الماضي عندما المعلومات تم الإبلاغ عن بدء تشغيل الذكاء الاصطناعي.
وتضمن هذا التقرير إشارة إلى عقد PrismML اجتماعات مع شركة Apple حول “الطرق التي يمكنها من خلالها استخدام تقنيتها”.
وأشار التقرير أيضًا إلى نموذج Bonsai 27B من PrismML، المقرر إصداره اليوم.
وكما هو متوقع، أصدرت PrismML الآن هذا النموذج:
يصل Bonsai 27B إلى ما يصل إلى 163 tok/s في 1 بت و134 tok/s في Ternary على NVIDIA GeForce RTX 5090. وعلى M5 Max، يصل إلى 87 tok/s في 1 بت و58 tok/s في Ternary.
يعد تركيب الهاتف بوابة أكثر صرامة مما توحي به أرقام التخزين. لا يعرض الهاتف ذاكرته الكاملة أبدًا لأي تطبيق – يوفر جهاز iPhone سعة 12 جيجابايت حوالي 6 جيجابايت للنموذج لاستخدامه على الجهاز، ويشارك النموذج هذه الميزانية مع ذاكرة التخزين المؤقت KV وعمليات التنشيط. لا يوجد بناء تقليدي لنموذج 27B يقترب من إزالته. بمساحة تبلغ حوالي 4 غيغابايت، يعد 1-bit Bonsai 27B أول من يمر عبره مع وجود مساحة للعمل.
يشير البيان الصحفي على وجه التحديد إلى تشغيل النموذج الجديد محليًا على أجهزة Apple:
يعمل Bonsai 27B محليًا على أجهزة Apple (Mac وiPhone وiPad) عبر MLX وعلى وحدات معالجة الرسومات NVIDIA عبر CUDA، من خلال نواة مخصصة منخفضة البت مصممة لبنيتها الهجينة. تتوفر أوزان النماذج اليوم بموجب ترخيص Apache 2.0. مع هذا الإصدار، نقدم واجهة برمجة تطبيقات مجانية لمعاينة المطورين لفترة محدودة حتى يتمكن المطورون من تجربة نموذجنا بسهولة.
وفي الوقت نفسه، يقول الرئيس التنفيذي لشركة PrismML، باباك حسيبي سي ان بي سي أن شركة Apple مهتمة بتقنية PrismML:
صرح باباك حسيبي، الرئيس التنفيذي لشركة PrismML، لـ CNBC أن شركة Apple وشركات أخرى تقوم بتقييم نماذج الشركة الناشئة وقياس سرعتها وكفاءة الطاقة والأداء على الأجهزة.
وقال حسيبي عن شركة أبل: “إنهم يقومون بالفعل بتقييم التكنولوجيا لدينا في الوقت الحالي”.
ووصف المناقشات بأنها مبكرة للغاية، وقال إنه لا يزال من غير الواضح إلى أين ستؤدي، لكن “الأمور تتقدم بشكل جيد”.
ولم تستجب شركة أبل على الفور لطلب التعليق.
يمكنك معرفة المزيد حول نموذج Bonsai 27B الخاص بـ PrismML هنا، وقراءة مقال CNBC بالكامل هنا.
خذ 9to5Mac
يجدر فصل شيئين هنا. سنترك الأمر لخبراء الذكاء الاصطناعي لتقييم ادعاءات وتقنيات PrismML.
أما بالنسبة لاتصال Apple، فمن الواضح أن شركة الذكاء الاصطناعي الناشئة تروج للتواصل مع Apple كوسيلة لإثارة ضجة حول إصدارها الجديد.
من الحكمة عمومًا إبقاء أي مناقشات جادة بين الشركات الناشئة وشركة Apple في الجانب الأكثر هدوءًا. وبخلاف ذلك، سيتم خلق بيئة للشكوك القوية.
على أي حال، تمكنت PrismML من جذب الانتباه المعلومات و سي ان بي سي حول أحدث إصدار لهم. تم إنجاز المهمة قصيرة المدى.
FTC: نحن نستخدم الروابط التابعة التلقائية لكسب الدخل. أكثر.
