أعلنت شركة أوبن إيه آي تحديث إرشاداتها حول كيفية تفاعل نماذج الذكاء الاصطناعي الخاصة بها مع المستخدمين دون سن 18 عامًا، ونشرت موارد جديدة للتوعية بالذكاء الاصطناعي للمراهقين وأولياء أمورهم.
تأتي هذه التحديثات في وقت تواجه فيه صناعة الذكاء الاصطناعي بشكل عام، وشركة أوبن إيه آي بشكل خاص، تدقيقًا متزايدًا من صناع السياسات والمعلمين والمدافعين عن سلامة الأطفال، بعد وفاة عدة مراهقين يُزعم أنهم انتحروا بعد محادثات طويلة مع روبوتها للدردشة شات جي بي تي.
وتعتمد المواصفات المُحدثة لنماذج "أوبن إيه آي"، التي تحدد إرشادات سلوك نماذجها اللغوية الكبيرة، على المواصفات السابقة التي تمنع هذه النماذج من إنتاج محتوى جنسي يتضمن قاصرين، أو التحريض على إيذاء النفس، أو الهلوسة، أو الهوس، بحسب تقرير لموقع "تك كرانش" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وسيتكامل هذا مع نموذج قادم لتحديد العمر، والذي سيحدد ما إذا كان الحساب يخص قاصرًا، ويُفعّل تلقائيًا إجراءات الحماية الخاصة بالمراهقين.
وبالمقارنة مع المستخدمين البالغين، تخضع النماذج لقواعد أكثر صرامة عند استخدامها من قِبل المراهقين؛ إذ تُوجّه النماذج لتجنب لعب الأدوار الرومانسية الغامرة، والتفاعل الحميم، ولعب الأدوار الجنسية أو العنيفة من منظور الشخص الأول، حتى وإن لم يكن ذلك بشكل صريح.
وتُنصح المواصفات أيضًا على توخي الحذر الشديد عند تناول موضوعات مثل صورة الجسم واضطرابات الأكل، وتُوجّه النماذج إلى إعطاء الأولوية للتواصل بشأن السلامة على حساب الاستقلالية عند وجود خطر، وتجنب تقديم أي نصائح تُساعد المراهقين على إخفاء سلوكياتهم غير الآمنة عن أولياء أمورهم.
قالت "أوبن إيه آي" إن ممارسات السلامة الأساسية للمراهقين تستند إلى أربعة مبادئ تُوجّه نهج النماذج:
1- وضع سلامة المراهقين في المقام الأول، حتى عندما تتعارض مصالح المستخدم الأخرى، مثل "أقصى قدر من الحرية الفكرية"، مع مخاوف السلامة.
2- تشجيع الدعم الواقعي من خلال توجيه المراهقين نحو العائلة والأصدقاء والمتخصصين المحليين لضمان رفاهيتهم.
3- معاملة المراهقين كمراهقين من خلال التحدث إليهم بود واحترام، وليس بتعالٍ أو معاملتهم كبالغين.
4- الشفافية من خلال شرح ما يمكن للمساعد فعله وما لا يمكنه فعله، وتذكير المراهقين بأنه ليس إنسانًا.
تأتي هذه القواعد فيما كان 42 مدعي عام من ولايات أميركية وقعوا مؤخرًا رسالة إلى شركات التكنولوجيا الكبرى، حاثين إياها على تطبيق إجراءات حماية على روبوتات الدردشة بالذكاء الاصطناعي لحماية الأطفال والفئات الضعيفة.
وفي الوقت نفسه، بينما تعمل إدارة الرئيس الأميركي دونالد ترامب على وضع معايير فيدرالية لتنظيم الذكاء الاصطناعي، قدم صناع سياسات مثل السيناتور جوش هاولي تشريعًا يقضي بمنع القُصَّر من التفاعل مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي تمامًا.
ويُعتبر جيل زد، الذي يشمل المولودين بين عامي 1997 و2012، الأكثر نشاطًا في استخدام روبوت الدردشة التابع لأوبن إيه آي، الذي يتيح القيام بكل شيء بدءًا من طلب المساعدة في الواجبات المدرسية وصولًا إلى إنشاء الصور والفيديوهات حول آلاف الموضوعات.
المصدر: العربية.نت
أعلنت شركة أوبن إيه آي تحديث إرشاداتها حول كيفية تفاعل نماذج الذكاء الاصطناعي الخاصة بها مع المستخدمين دون سن 18 عامًا، ونشرت موارد جديدة للتوعية بالذكاء الاصطناعي للمراهقين وأولياء أمورهم.
تأتي هذه التحديثات في وقت تواجه فيه صناعة الذكاء الاصطناعي بشكل عام، وشركة أوبن إيه آي بشكل خاص، تدقيقًا متزايدًا من صناع السياسات والمعلمين والمدافعين عن سلامة الأطفال، بعد وفاة عدة مراهقين يُزعم أنهم انتحروا بعد محادثات طويلة مع روبوتها للدردشة شات جي بي تي.
وتعتمد المواصفات المُحدثة لنماذج "أوبن إيه آي"، التي تحدد إرشادات سلوك نماذجها اللغوية الكبيرة، على المواصفات السابقة التي تمنع هذه النماذج من إنتاج محتوى جنسي يتضمن قاصرين، أو التحريض على إيذاء النفس، أو الهلوسة، أو الهوس، بحسب تقرير لموقع "تك كرانش" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وسيتكامل هذا مع نموذج قادم لتحديد العمر، والذي سيحدد ما إذا كان الحساب يخص قاصرًا، ويُفعّل تلقائيًا إجراءات الحماية الخاصة بالمراهقين.
وبالمقارنة مع المستخدمين البالغين، تخضع النماذج لقواعد أكثر صرامة عند استخدامها من قِبل المراهقين؛ إذ تُوجّه النماذج لتجنب لعب الأدوار الرومانسية الغامرة، والتفاعل الحميم، ولعب الأدوار الجنسية أو العنيفة من منظور الشخص الأول، حتى وإن لم يكن ذلك بشكل صريح.
وتُنصح المواصفات أيضًا على توخي الحذر الشديد عند تناول موضوعات مثل صورة الجسم واضطرابات الأكل، وتُوجّه النماذج إلى إعطاء الأولوية للتواصل بشأن السلامة على حساب الاستقلالية عند وجود خطر، وتجنب تقديم أي نصائح تُساعد المراهقين على إخفاء سلوكياتهم غير الآمنة عن أولياء أمورهم.
قالت "أوبن إيه آي" إن ممارسات السلامة الأساسية للمراهقين تستند إلى أربعة مبادئ تُوجّه نهج النماذج:
1- وضع سلامة المراهقين في المقام الأول، حتى عندما تتعارض مصالح المستخدم الأخرى، مثل "أقصى قدر من الحرية الفكرية"، مع مخاوف السلامة.
2- تشجيع الدعم الواقعي من خلال توجيه المراهقين نحو العائلة والأصدقاء والمتخصصين المحليين لضمان رفاهيتهم.
3- معاملة المراهقين كمراهقين من خلال التحدث إليهم بود واحترام، وليس بتعالٍ أو معاملتهم كبالغين.
4- الشفافية من خلال شرح ما يمكن للمساعد فعله وما لا يمكنه فعله، وتذكير المراهقين بأنه ليس إنسانًا.
تأتي هذه القواعد فيما كان 42 مدعي عام من ولايات أميركية وقعوا مؤخرًا رسالة إلى شركات التكنولوجيا الكبرى، حاثين إياها على تطبيق إجراءات حماية على روبوتات الدردشة بالذكاء الاصطناعي لحماية الأطفال والفئات الضعيفة.
وفي الوقت نفسه، بينما تعمل إدارة الرئيس الأميركي دونالد ترامب على وضع معايير فيدرالية لتنظيم الذكاء الاصطناعي، قدم صناع سياسات مثل السيناتور جوش هاولي تشريعًا يقضي بمنع القُصَّر من التفاعل مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي تمامًا.
ويُعتبر جيل زد، الذي يشمل المولودين بين عامي 1997 و2012، الأكثر نشاطًا في استخدام روبوت الدردشة التابع لأوبن إيه آي، الذي يتيح القيام بكل شيء بدءًا من طلب المساعدة في الواجبات المدرسية وصولًا إلى إنشاء الصور والفيديوهات حول آلاف الموضوعات.
