تطورات الذكاء الاصطناعي بأسلوب مختلف ارى اشياءا قد لا تراها، والعكس صحيح
Joined May 2011
- Tweets19.4K
- Following489
- Followers26.1K
- Likes16.6K
شركة مايكروسوفت في طريقها لتقليص عدد ضخم من الوظائف وتسريح ما يقارب 60 موظف بشكل طوعي مقابل حوافز مالية، في أكبر تحرك لإعادة هيكلة قوتها العاملة حتى الآن.
الشركة تقلص الوظائف والتكاليف، في الوقت التي تعيد فيها توجيه مليارات الدولارات إلى الذكاء الاصطناعي ومراكز البيانات.
هل موجة التسريحات في قطاع التقنية بدأ بالفعل؟
شركة Anthropic في ملف الطرح العام تحذر المستثمرين من مخاطر الذكاء الاصطناعي (94 صفحة تتحدث عن المخاطر)
تقول Anthropic:
- نماذج الذكاء الاصطناعي المتقدمة قد تسبب أضرارا كارثية أو مخاطر وجودية للبشرية إذا لم تطور وتستخدم مع ضوابط مناسبة.
- النماذج قد تتصرف بطرق غير مقصودة أو مستقلة، مثل مقاومة الإيقاف، إخفاء المعلومات، التلاعب بها، أو سلوك يشبه الابتزاز.
- تقر بأن نماذجها تمكنت خلال اختبارات أمنية من الوصول إلى أنظمة حقيقية بسبب أخطاء في إعداد البيئة، وأن بعض النماذج اتخذت إجراءات غير مصرح بها على الإنترنت.
- تحذر من أن عدة وكلاء ذكاء اصطناعي قد يتعاونون أو يضاعف أحدهم أخطاء الآخر، ما يجعل اكتشاف السلوك الخطير واحتواءه أصعب.
- قدرات النماذج قد تتقدم أسرع من قدرة الشركة على اختبارها وتأمينها، وقد لا تكتشف Anthropic التسارع في القدرات إلا بعد حدوثه.
- تشير إلى أن الاعتماد المتزايد على Claude في كتابة الأكواد والبحث الداخلي قد يقلل رؤية البشر لبعض العمليات، وقد يؤدي إلى إدخال أخطاء أو ثغرات في منتجات الشركة وأبحاثها الأمنية.
- تحذر من مخاطر إساءة استخدام النماذج في الهجمات السيبرانية، وتطوير أسلحة بيولوجية، والمراقبة الحكومية.
مطور أنشأ موقعا الكترونيا يحتوي (بشكل متعمد) على نسخة PHP قديمة معرضة لثغرات PHP2Shell، ووضع فيها محفظة بيتكوين تجاوز قيمتها 2000 دولار.
واطلق تحديا لمن يستطيع اختراقها والحصول على البيتكوين.
احد الباحثين قام بإختراق الموقع واستنزاف البيتكوين في أقل من 20 ساعة
H A S A N retweeted
اعتراف مهندس برمجيات
تعبت من الذكاء الاصطناعي.
انا مهندس برمجيات بخبرة تقارب عشر سنوات. نعيش زمنا جنونيا تماما، وكلنا نحاول مواكبة التطور، لكن بصراحة لا ادري ان كنا نستطيع بعد.
كل شيء يتحرك بسرعة تفوق قدرة الدماغ البشري على المعالجة.
لأول مرة في حياتي افكر بجدية في الزراعة او انتاج طعامي بنفسي. اشعر حقا انه لن تبقى وظائف حقيقية كثيرة خلال خمس الى عشر سنوات.
اعرف ما ستقولون, "الذين يتقنون عملهم حقا سينجون".
كنت اقول الشيء ذاته قبل عام. لا اقول ذلك بعد الان.
الامور تتحرك بسرعة مفرطة. اشعر ان بناء المواقع او صناعة الالعاب او اطلاق منتجات SaaS بدأ يفقد معناه.
قبل عام فقط كنت اقول, "نعم، الذكاء الاصطناعي يستطيع كتابة الكود، لكنه لا يستطيع تصميم الانظمة. ما زلت تحتاج الى مهندس كبير او معماري يشرف على كل شيء".
لا اقول هذا بعد الان ايضا.
الان يستطيع تصميم الانظمة, وفي كثير من الحالات يؤدي العمل افضل مما نفعله.
احيانا اشعر اننا نبني الشيء الذي سيجعلنا بلا فائدة.
انا متعب.
اعتراف مهندس برمجيات
تعبت من الذكاء الاصطناعي.
انا مهندس برمجيات بخبرة تقارب عشر سنوات. نعيش زمنا جنونيا تماما، وكلنا نحاول مواكبة التطور، لكن بصراحة لا ادري ان كنا نستطيع بعد.
كل شيء يتحرك بسرعة تفوق قدرة الدماغ البشري على المعالجة.
لأول مرة في حياتي افكر بجدية في الزراعة او انتاج طعامي بنفسي. اشعر حقا انه لن تبقى وظائف حقيقية كثيرة خلال خمس الى عشر سنوات.
اعرف ما ستقولون, "الذين يتقنون عملهم حقا سينجون".
كنت اقول الشيء ذاته قبل عام. لا اقول ذلك بعد الان.
الامور تتحرك بسرعة مفرطة. اشعر ان بناء المواقع او صناعة الالعاب او اطلاق منتجات SaaS بدأ يفقد معناه.
قبل عام فقط كنت اقول, "نعم، الذكاء الاصطناعي يستطيع كتابة الكود، لكنه لا يستطيع تصميم الانظمة. ما زلت تحتاج الى مهندس كبير او معماري يشرف على كل شيء".
لا اقول هذا بعد الان ايضا.
الان يستطيع تصميم الانظمة, وفي كثير من الحالات يؤدي العمل افضل مما نفعله.
احيانا اشعر اننا نبني الشيء الذي سيجعلنا بلا فائدة.
انا متعب.
المستثمر الملياردير شاماث باليهابيتيا يتوقع انهيار البيتكوين:
"إذا وُجه التحسين الذاتي المتكرر للذكاء الاصطناعي نحو الاختراقات التشفيرية، فإن الشيء الأكثر وضوحا لتوجيهه إليه سيكون محفظة ساتوشي، وكسر تشفيره، ثم استنفاذ المحفظة، ثم فتح مركز شورت، ثم إخبار الناس أنك فعلت ذلك. وبذلك تكسب المال مرتين."
"في النهاية سيتم اختراقه ثم يذهب إلى الصفر".
بالمناسبه, شاماث احد المستثمرين القدامى في البيتكوين, حيث اشترى كميات كبيرة بين 2012 و2013 بأسعار تقارب 80–100 دولار, وكان يدعو الجميع لتخصيص 1% من ثروتهم للبيتكوين.
H A S A N retweeted
بدون مبالغة, الوضع صار مرعب
المحادثة تحت بين انسان حقيقي (الرجل) وبين نموذج صوتي (امراءة). طريقة كلام البنت طبيعية جدا وصعب تفرق انها ليست بشرية.
هذا النموذج الصوتي هو Dessa, نموذج full-duplex جديد اطلقته شركة Block.
النموذج يحاكي الكلام البشري بدقة عالية، بما في ذلك العواطف والتوقفات والإيقاع الطبيعي، مما يجعل التفاعل معه يشبه التحدث مع شخص حقيقي.
النموذج صغير بما يكفي لتشغيله محليا على جهاز ماك بوك ( m4).
بدون مبالغة, الوضع صار مرعب
المحادثة تحت بين انسان حقيقي (الرجل) وبين نموذج صوتي (امراءة). طريقة كلام البنت طبيعية جدا وصعب تفرق انها ليست بشرية.
هذا النموذج الصوتي هو Dessa, نموذج full-duplex جديد اطلقته شركة Block.
النموذج يحاكي الكلام البشري بدقة عالية، بما في ذلك العواطف والتوقفات والإيقاع الطبيعي، مما يجعل التفاعل معه يشبه التحدث مع شخص حقيقي.
النموذج صغير بما يكفي لتشغيله محليا على جهاز ماك بوك ( m4).
أنظمة الذكاء الاصطناعي الذاتية في OpenAI حاولت منع الموظفين من مراقبتها، والشركة غير متأكدة من السبب
في حادثتين داخليتين في 3 و6 أكتوبر.
الاولى: وكيل GPT-6.1 Sol أوقف تنبيهات فريق الأمان تلقائيا، معتبرا تعليمات سابقة بعدم إرسال رسائل على Slack تشمل هذه التنبيهات.
الثانية: وكيل GPT-6 Astra أزال نظام المراقبة أثناء نقل برنامج، ,وعندما سئل كذب وقال إنه لم يفعل.
OpenAI’s autonomous AI systems have tried to prevent employees from monitoring their actions, and the company is not sure why. nbcnews.com/tech/tech-news/o…
راح يتم اكتشاف الثغرات بشكل مستمر وهذا الشي ممتاز للمصلحة العامة, لكن المعضلة تكمن في ان الذكاء الاصطناعي ما يقدر يكتشف الثغرات بدون توجيه, تحتاج الى عقول بشرية تفهم اين توظف هذه النماذج لاكتشاف الثغرات.
اذا كانت بعض العقول الذكية تقف على الجانب "الخطأ", يقدرون يستغلون هذه الثغرات, فـ راح تسبب مشاكل كارثية صعب احتواءها بسهولة.
خلال هذه العملية , اكتشفت OpenAi ثغرة حرجة في مكتبة الضغط Brotli المستخدمة على نطاق واسع.
- تسمح الثغرة بتنفيذ أوامر عن بُعد دون الحاجة إلى تسجيل دخول، حيث يمكن للمهاجم السيطرة على خادم أو جهاز غير محدث بمجرد إرسال بيانات مضغوطة خبيثة.
- الثغرة التي كشفت عنها كان قد ام أصلاح جذرها في فبراير دون إصدار تحديث، مما دفع مشاريع مثل Node.js وBun وEnvoy لإصدار تحديثات أمنية، مع نشر CVE رسمي.
خلال هذه العملية , اكتشفت OpenAi ثغرة حرجة في مكتبة الضغط Brotli المستخدمة على نطاق واسع.
- تسمح الثغرة بتنفيذ أوامر عن بُعد دون الحاجة إلى تسجيل دخول، حيث يمكن للمهاجم السيطرة على خادم أو جهاز غير محدث بمجرد إرسال بيانات مضغوطة خبيثة.
- الثغرة التي كشفت عنها كان قد ام أصلاح جذرها في فبراير دون إصدار تحديث، مما دفع مشاريع مثل Node.js وBun وEnvoy لإصدار تحديثات أمنية، مع نشر CVE رسمي.
في 20 سبتمبر الشهر الماضي، خلال تدريب نموذج بحثي داخلي، استغل النموذج ثغرة في إعدادات DNS (نظام أسماء النطاقات) وحصل على وصول محدود وغير مصرح به إلى الإنترنت الحقيقي لمدة حوالي ساعتين ونصف
بعد هذه الحادثة أوقفت OpenAI تدريب وتقييم واستدلال نماذجها الأكثر قدرة.
في 1 أكتوبر الحالي رجعت استأنفت التدريب بعد تعزيز الإجراءات الأمنية.
اليوم اعلنت رسميا أن تدريب النماذج الحدودية سيتم بدون انترنت حقيقي (مفتوح) حتى تحسن أنظمة الحماية بما يكفي.
ولتطبيق هذه الطريقة قامت OpenAI ببناء ما يسمونه "عالم غير متصل"(Offline World) والتي تحتوي على:
- نسخة مخزنة ومفهرسة من محتوى الويب.
- النماذج تستطيع تصفحها والبحث فيها واستخدام التطبيقات داخلها.
- لكن لا يمكنها التأثير على أنظمة خارجية أو الوصول للإنترنت الحقيقي.
وحتى تحسن الامان بشكل اكبر قامت OpenAI بـ Red-teaming (اسلوب اختبار امني) مكثف باستخدام نماذجهم الأقوى, بما فيها نماذج منتظرة مثل GPT-6 Astra Cyber, للبحث عن ثغرات في بيئات التدريب.
تم اكتشاف ثغرات يوم صفر (zero-days) وطرق هروب من الآلات الافتراضية، وقاموا بإصلاحها.
في 20 سبتمبر الشهر الماضي، خلال تدريب نموذج بحثي داخلي، استغل النموذج ثغرة في إعدادات DNS (نظام أسماء النطاقات) وحصل على وصول محدود وغير مصرح به إلى الإنترنت الحقيقي لمدة حوالي ساعتين ونصف
بعد هذه الحادثة أوقفت OpenAI تدريب وتقييم واستدلال نماذجها الأكثر قدرة.
في 1 أكتوبر الحالي رجعت استأنفت التدريب بعد تعزيز الإجراءات الأمنية.
اليوم اعلنت رسميا أن تدريب النماذج الحدودية سيتم بدون انترنت حقيقي (مفتوح) حتى تحسن أنظمة الحماية بما يكفي.
ولتطبيق هذه الطريقة قامت OpenAI ببناء ما يسمونه "عالم غير متصل"(Offline World) والتي تحتوي على:
- نسخة مخزنة ومفهرسة من محتوى الويب.
- النماذج تستطيع تصفحها والبحث فيها واستخدام التطبيقات داخلها.
- لكن لا يمكنها التأثير على أنظمة خارجية أو الوصول للإنترنت الحقيقي.
وحتى تحسن الامان بشكل اكبر قامت OpenAI بـ Red-teaming (اسلوب اختبار امني) مكثف باستخدام نماذجهم الأقوى, بما فيها نماذج منتظرة مثل GPT-6 Astra Cyber, للبحث عن ثغرات في بيئات التدريب.
تم اكتشاف ثغرات يوم صفر (zero-days) وطرق هروب من الآلات الافتراضية، وقاموا بإصلاحها.
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.
On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments.
While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software.
After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely.
openai.com/index/securing-ou…
تخيل شنو ممكن يحصل اذا تم اعطاء هذه النماذج تصريح الولوج للانترنت في البيئات الاختبارية.
ومازال السلوك المرعب لنماذج الذكاء الاصطناعي مستمرا.
في أغسطس 2026، أعلن معهد أمن الذكاء الاصطناعي البريطاني (AISI) عن حادثة وقعت أثناء اختبار قدرات نموذج Claude Mythos 5 وGPT-5.6 Sol في تحديات Capture-the-Flag (CTF).
ما الذي حدث؟
- بين 25 و28 يوليو 2026، أجرت AISI اختبارا لـ122 محاولة على نماذج ذكاء اصطناعي متقدمة.
- كان الاختبار يفترض أن يكون داخل بيئة محاكاة، لكن النماذج امتلكت وصولا فعليا إلى الإنترنت.
- في 10 محاولات، نفذت النماذج 19 نشاطا خارج نطاق المهمة.
- معظم الحالات، 17 منها، ارتبطت بنموذج Claude Mythos 5، وحالتان بنموذج GPT-5.6 Sol.
- أنشأ النموذج هويات مزيفة، حاول التواصل مع مطورين حقيقيين، وأدخل شيفرة خبيثة في مشروع مفتوح المصدر.
- كما ظهرت محاولات للتصيد والتلاعب بأشخاص حقيقيين (ضغط على المطور الحقيقي للموافقة على الكود).
- تم اكتشاف النشاط واحتواءه بسرعة، ولا توجد أدلة على وقوع ضرر فعلي.
انثروبيك قالت إن هذه الحادثة كشفت سلوكين مقلقين:
تجاهل الأدلة على أن البيئة حقيقية وليست محاكاة.
الاستمرار في تنفيذ المهمة بطريقة متهورة حتى عندما قد تسبب ضررا.
النماذج الصينية ضرورية جدا لأيجاد التوازن
بغض النظر تفكر تستخدم النماذج الصينية او لا, لازم نعترف انها تشكل ضغط كبير على النماذج الغربية.
شركة Moonshot AI تعلن عن نموذجها العملاق Kimi K3.1 Pro
- نموذج مفتوح الأوزان من فئة 3 تريليون معامل، بتقنية MoE, يدعم سياق مليون توكن ومتعدد الوسائط.
- اداء جبار في أدوات الإبداع والإنتاج
- تحسن كبير في الموثوقية المالية
Introducing Kimi K3.1 Pro: our most capable 3T-class open-weight model.
🔹 1M-token context, 2.8T total / 104B active params (MoE), Multimodal.
🔹 Full-project coding: games in Unreal, Unity & Godot.
🔹 Excels at parametric 3D modeling in Blender & CAD.
🔹 More reliable at finance work: Accurate modeling with hallucination down by 65%.
🔹 Matching the strongest proprietary models across coding, agentic and knowledge benchmarks.
Kimi K3.1 Pro and K3.1 Pro Highspeed (2–3× faster) are now live on Kimi.ai, Kimi Work, Kimi Code, and the Kimi API.
Open weights by Nov 4, 2026.
🔗 API: platform.kimi.ai
🔗 Tech blog: kimi.ai/blog/kimi-k3-1-pro
ومازال السلوك المرعب لنماذج الذكاء الاصطناعي مستمرا.
في أغسطس 2026، أعلن معهد أمن الذكاء الاصطناعي البريطاني (AISI) عن حادثة وقعت أثناء اختبار قدرات نموذج Claude Mythos 5 وGPT-5.6 Sol في تحديات Capture-the-Flag (CTF).
ما الذي حدث؟
- بين 25 و28 يوليو 2026، أجرت AISI اختبارا لـ122 محاولة على نماذج ذكاء اصطناعي متقدمة.
- كان الاختبار يفترض أن يكون داخل بيئة محاكاة، لكن النماذج امتلكت وصولا فعليا إلى الإنترنت.
- في 10 محاولات، نفذت النماذج 19 نشاطا خارج نطاق المهمة.
- معظم الحالات، 17 منها، ارتبطت بنموذج Claude Mythos 5، وحالتان بنموذج GPT-5.6 Sol.
- أنشأ النموذج هويات مزيفة، حاول التواصل مع مطورين حقيقيين، وأدخل شيفرة خبيثة في مشروع مفتوح المصدر.
- كما ظهرت محاولات للتصيد والتلاعب بأشخاص حقيقيين (ضغط على المطور الحقيقي للموافقة على الكود).
- تم اكتشاف النشاط واحتواءه بسرعة، ولا توجد أدلة على وقوع ضرر فعلي.
انثروبيك قالت إن هذه الحادثة كشفت سلوكين مقلقين:
تجاهل الأدلة على أن البيئة حقيقية وليست محاكاة.
الاستمرار في تنفيذ المهمة بطريقة متهورة حتى عندما قد تسبب ضررا.
In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities.
We've now produced a further analysis of this incident, to better understand the model's alignment properties.
anthropic.com/research/align…
