الذكاء الاصطناعي > هل النماذج اللغوية الكبيرة (LLMs) آمنة؟
هل النماذج اللغوية الكبيرة (LLMs) آمنة؟ توضيح المخاطر الأمنية للذكاء الاصطناعي
أصبحت مساعدات الذكاء الاصطناعي أدوات يومية للعمل والبحث والتواصل. لكن الأنظمة نفسها التي تجعلها مفيدة تجعلها أيضًا مصدرًا للمخاطر الأمنية. إليك ما يجب معرفته عن المخاطر الأمنية للنماذج اللغوية الكبيرة والذكاء الاصطناعي.

ما هي النماذج اللغوية الكبيرة (LLM) وكيف ترتبط بالذكاء الاصطناعي والأمن؟
يشمل الذكاء الاصطناعي العشرات من أنواع برامج تعلم الآلة، بدءًا من التعرف على الوجوه إلى كشف الاحتيال المصرفي وصولاً إلى ألعاب الطاولة. تعد النماذج اللغوية الكبيرة (LLMs) نوعًا محددًا من الذكاء الاصطناعي، وهي المحرك الكامن وراء كل مساعد ذكاء اصطناعي رئيسي سمعت به، بما في ذلك ChatGPT وMicrosoft Copilot وGoogle Gemini ومساعد Lumo الخاص بـ Proton.
تتعلم النماذج اللغوية الكبيرة من خلال معالجة كميات هائلة من المعلومات، مثل الكتب والمقالات والوثائق والرموز والأوراق الأكاديمية، والبحث عن أنماط لكيفية عمل اللغة. ومع مرور الوقت، تصبح أكثر قدرة على التنبؤ بالكلمات التالية في أي نص مكتوب، مما يتيح لها إجراء محادثات كاملة، أو تلخيص المستندات، أو كتابة مسودات رسائل البريد الإلكتروني لتبدو وكأن شخصًا حقيقيًا قد كتبها.
نظرًا لأن النماذج اللغوية الكبيرة تعالج كمًا هائلاً من المعلومات، ولأن مشاركة التفاصيل الشخصية والمهنية الحساسة معها تزداد باستمرار، فإن أمن هذه النماذج يعد أمرًا بالغ الأهمية لضمان عدم سرقة البيانات السرية أو تسريبها.
أين يكمن دور الذكاء الاصطناعي الوكيل (Agentic AI)؟
في الماضي، كانت النماذج اللغوية الكبيرة تقتصر على الردود، حيث يُطرح السؤال ويجيب الذكاء الاصطناعي. أما الذكاء الاصطناعي الوكيل فيتجاوز ذلك. لا يزال وكيل الذكاء الاصطناعي يستخدم النموذج اللغوي الكبير للتفكير والتواصل، ولكنه يستطيع أيضًا اتخاذ إجراءات، مثل تصفح الويب، وكتابة الرموز وتشغيلها، وإرسال الرسائل، والاتصال بالتطبيقات الخارجية، وإدارة الملفات. وبدلاً من الإجابة عن سؤال واحد، يمكنه إنجاز مهمة متعددة الخطوات دون الحاجة إلى إشراف بشري كبير.
تأتي هذه القدرة الإضافية مع زيادة في المخاطر. عندما يصبح بإمكان الذكاء الاصطناعي التصرف بشكل مستقل، فإن عواقب خداعه أو حدوث خلل في عمله تصبح أخطر بكثير. يعد أمن الذكاء الاصطناعي الوكيل أحد المخاوف الأسرع نموًا في هذا الحقل تحديدًا لأن هذه الأنظمة تدمج بشكل متزايد في أدوات العمل، وغالبًا بصلاحيات وصول تفوق حاجتها الفعلية.
أمن النماذج اللغوية الكبيرة والمخاطر المحتملة للذكاء الاصطناعي
تثير المخاطر الأمنية للذكاء الاصطناعي والنماذج اللغوية الكبيرة القلق لكونها مدمجة في البنية الأساسية لطريقة تصميم هذه الأدوات ونشرها. عند طرح سؤال شخصي حول الصحة على مساعد ذكاء اصطناعي، أو مشاركة استراتيجية عمل، أو مناقشة موقف قانوني، فإن تلك المعلومات ينتهي بها المطاف عادةً على خوادم لا تخضع للسيطرة الشخصية، وقد تكون خاضعة لقوانين أو معايير سلوكية قد لا تكون معروفة حتى. لا يقتصر التفكير في أمن النماذج اللغوية الكبيرة على فرق تقنية المعلومات فحسب، بل هو مشكلة عملية تهم كل من يستخدم الذكاء الاصطناعي، سواء لأغراض خاصة أو مهنية.
أكبر المخاطر الأمنية للنماذج اللغوية الكبيرة والذكاء الاصطناعي
تُدمج النماذج اللغوية الكبيرة في المزيد من الأدوات يوميًا، ولكنها لا تزال تنطوي على عدة مخاطر أمنية قد لا تكون واضحة على الفور.
تحتفظ معظم منصات الذكاء الاصطناعي بالأوامر والردود وبيانات التفاعل بشكل افتراضي. يمكن للموظفين في الشركة قراءة تلك المعلومات، أو استخدامها في تدريب النماذج المستقبلية، أو بيعها لأطراف ثالثة، أو حتى تسليمها إلى السلطات. بمجرد وصول المحادثات إلى خوادم جهة أخرى، يقل التحكم في كيفية تخزين تلك البيانات أو استخدامها أو مشاركتها.
تتكون معظم منتجات الذكاء الاصطناعي من مكونات طورتها مؤسسات وشركات مختلفة، بما في ذلك النماذج الأساسية، والمكونات الإضافية، وواجهات برمجة التطبيقات (APIs)، ومسارات نقل البيانات. إذا حدث اختراق لأي جزء في سلسلة التوريد تلك، يتأثر كل مستخدم لهذا المنتج، وغالبًا دون أي مؤشر واضح على وجود خطأ ما.
يمكن للنماذج اللغوية الكبيرة إظهار بيانات لم يكن من المفترض مشاركتها أبدًا. قد تكون هذه معلومات تم الحصول عليها من بيانات التدريب، أو جلسات مستخدمين آخرين، أو محادثات سابقة لا يزال الذكاء الاصطناعي يملك صلاحية الوصول إليها. في بيئات العمل، حيث يتشارك عدة أشخاص أداة الذكاء الاصطناعي نفسها وتتدفق البيانات الحساسة عبر النظام ذاته، يمكن أن تتسبب هذه التسريبات في أضرار جسيمة.
بما أن أنظمة الذكاء الاصطناعي الوكيل تملك القدرة على إرسال رسائل البريد الإلكتروني، أو تشغيل الرموز، أو الوصول إلى الملفات، فإن مخاطر التلاعب بها تزداد بشكل كبير. يمكن لوكيل الذكاء الاصطناعي الذي يمتلك صلاحيات زائدة أن يتخذ إجراءات عبر عدة أنظمة متصلة، وغالبًا قبل أن يلاحظ أي شخص وجود خطأ ما. كلما زاد السماح للذكاء الاصطناعي بالعمل نيابة عن المستخدم، زادت أهمية التحكم الصارم في صلاحيات وصوله.
يعد حقن الأوامر (Prompt injection) أحد أكثر المخاطر الأمنية شيوعًا في الذكاء الاصطناعي. ويتم ذلك عن طريق إخفاء تعليمات خبيثة داخل المحتوى المقدم للذكاء الاصطناعي، مثل ملف PDF أو صفحة ويب، للتلاعب بوكلاء الذكاء الاصطناعي الذين يعملون بشكل مستقل. تتجاوز تلك التعليمات بهدوء سلوك وكيل الذكاء الاصطناعي، مما قد يؤدي إلى تسريب بيانات سرية، أو التصرف ضد مصلحة المستخدم، أو تقديم مخرجات مضللة، وكل ذلك بينما تبدو الأمور طبيعية تمامًا على السطح.
كيف يتبع Lumo نهجًا مختلفًا لأمن الذكاء الاصطناعي
صُممت معظم مساعدات الذكاء الاصطناعي لمنح المنصة أقصى قدر من الاطلاع على كيفية استخدامك لها. صُمم Lumo ليفعل العكس تمامًا، مما يمنحك تحكمًا أكبر وراحة بال تامة بشأن كيفية التعامل مع بياناتك.
لا سجلات على الإطلاق
يعالج خادم LLM الخاص بـ Lumo رسالتك ويتخلص منها بمجرد إنشاء الاستجابة. لا يوجد أي سجل لما طرحته من أسئلة، أو ما تلقيته من إجابات، أو وقت حدوث ذلك. لا يُحتفظ بأي محادثات بنص عادي على الخادم، مما يعني عدم وجود ما يمكن اختراقه، أو طلبه بموجب أمر استدعاء قضائي، أو إساءة استخدامه.
تُشفر الرسائل قبل مغادرة جهازك
يستخدم Lumo تشفيرًا غير متماثل ثنائي الاتجاه — يُعرف بالتشفير من المستخدم إلى Lumo (U2L) — لحماية رسائلك أثناء النقل. لا يمكن قراءة الرسالة الفعلية إلا من قِبل خادم LLM نفسه، وفقط خلال الفترة الزمنية اللازمة لإنشاء الاستجابة.
سجل المحادثات مغلق بتشفير ذي وصول صفري
بعد إنشاء الاستجابة، تُخزن المحادثة باستخدام تشفير ذي وصول صفري — محمي بمفتاح لا يملكه أحد سواك. لا تملك Proton صلاحية الوصول إليها أبدًا. حتى لو تعرضت خوادم Proton لاختراق كامل، سيبقى سجل المحادثات غير مقروء.
نماذج ورموز مفتوحة المصدر تتيح للخبراء التحقق من أمن Lumo
خلافًا لأدوات الذكاء الاصطناعي مغلقة المصدر مثل ChatGPT وCopilot وGemini، يعمل Lumo بنماذج ورموز مفتوحة المصدر، مما يتيح لأي شخص فحص البنية الأمنية بحثًا عن الثغرات والتحقق من أنها تفعل تمامًا ما ندعيه.
بلا إعلانات أو مشاركة للبيانات
تعتمد نماذج الأعمال التي بُنيت عليها معظم مساعدات الذكاء الاصطناعي على جمع بياناتك والاحتفاظ بها. لكن Lumo مختلف. تأتي إيرادات Proton من الاشتراكات لا من تحقيق أرباح من البيانات، لذا لا يوجد أي دافع لتسجيل المحادثات، أو مشاركتها مع أطراف ثالثة، أو استخدامها لعرض الإعلانات.
مستضاف في أوروبا، وغير خاضع لقوانين المراقبة الأمريكية
يمكن إلزام أدوات الذكاء الاصطناعي التي تطورها شركات أمريكية بالكشف عن البيانات بموجب قوانين مثل قانون CLOUD. يعمل Lumo على خوادم خاضعة لسيطرة Proton في أوروبا، بموجب بعض من أقوى قوانين حماية الخصوصية في العالم. المحادثات بعيدة تمامًا عن متناول طلبات الوصول المقدمة من حكومات أجنبية.
انضمام إلى نظام بيئي مشفر يحافظ على الأمان في كل مكان
يمثل Lumo جزءًا من نظام بيئي يضع الخصوصية أولاً ويحمي البيانات باستخدام تشفير قوي. لا يمكن لأحد رؤية بياناتك سواك والأشخاص الذين تختار مشاركتها معهم — ولا حتى نحن.
أنشئ حساب Lumo مجانًا وستتمكن أيضًا من الوصول إلى VPN(نافذة جديدة)، والبريد الإلكتروني، والتقويم، والتخزين السحابي، ومحرر المستندات، ومحرر جداول البيانات، ومدير كلمات المرور، ومؤتمرات الفيديو، وغيرها الكثير.
ماذا يقول الناس عن Lumo
إنه المكان الوحيد الذي يمكن لأي شخص فيه رؤية محادثاتك.
الانتقال إلى مساعد ذكاء اصطناعي آمن حقًا
صُممت أدوات الذكاء الاصطناعي التي أنشأتها أكبر منصات التكنولوجيا لتكون مفيدة، ولكن غالبًا ما يكون ذلك على حساب الأمان والخصوصية. يمنحك Lumo نموذج لغوي كبير ومساعد ذكاء اصطناعي بقدرات عالية ومشفرة دون أي تضحيات بأمانك.

الأسئلة الشائعة حول النماذج اللغوية الكبيرة وأمان الذكاء الاصطناعي
- ما هي أكبر مخاطر أمان الذكاء الاصطناعي على المستخدمين العاديين؟
- هل Lumo آمن للأعمال السرية أو الحساسة؟
- ما هي الأخطار الرئيسية للذكاء الاصطناعي على الأعمال؟
- ما اللغات التي يدعمها Lumo؟

