أنشأت Google و Openai و Roblox و Discord مؤسسة جديدة غير ربحية للمساعدة في تحسين سلامة الأطفال عبر الإنترنت على افتح أداة السلامة عبر الإنترنت (Roost) تهدف المبادرة إلى جعل تكنولوجيا الأمن الرئيسية أكثر سهولة للشركة وشراء AI Surz المجاني لتحديد محتوى التحرش الجنسي للأطفال والإبلاغ عنه.
كانت المبادرة الأولية مستوحاة إلى حد ما من التغييرات التي تم إنشاؤها في بيئة عبر الإنترنت ولديها “حاجة مهمة لتسريع ابتكار سلامة الأطفال عبر الإنترنت.” حول أدوات اكتشاف CSAM رقيقة جدًا بحيث لا تستخدم نموذجًا كبيرًا من الذكاء الاصطناعي والخيارات الحالية “بما في ذلك إدارة المحتوى.
وقال شميدت: “بدءًا من منصة تركز على حماية الطفل ، فإن عمل Roost and Open Roost سيعزز الابتكار ويجعل البنية التحتية المهمة أكثر شفافية وأكثر شمولاً ، بهدف إنشاء الإنترنت. هذا أكثر أمانًا للجميع”. .
يقوم مؤسس Roost ، مثل Discord ، بتوفير الأموال بينما يقوم الآخرون بتشغيل أدوات أو خبرة في مشروع Roost ، قائلاً إنه شريك مع مطور نموذج AI الرائد في إنشاء “مجتمع من الممارسة” لمنع المحتوى ، والذي يتضمن إنشاء بيانات تدريب الذكاء الاصطناعي وتحديد فجوات السلامة.
تقول المبادرة أنها ستنشئ “أدوات موجودة” لتكون أكثر سهولة. من موثوقية وسلامة روبوكس يخبر شركة سريعة قد تستضيف Roost نظام تصفية الذكاء الاصطناعي الذي يمكن للشركة أن تجمعه من خلال المكالمة.
بجانب المشاركة في الجوارأصدر Discord ميزة “تجاهل” جديدة تتيح للمستخدمين إخفاء الرسائل التي يتلقونها دون إخطار الأشخاص الذين يقومون بإيقافها. قال في إعلان روست ، “نحن مصممون على إنشاء كل الإنترنت – وليس فقط عدم التوافق – أماكن أفضل وأكثر أمانًا ، خاصة بالنسبة للشباب”.
جمعت ROOS أكثر من 27 مليون دولار أمريكي لدعم العمليات الأربع الأولى ، بدعم من McGovern Fuuture لمستقبل Toty Tust و Safety Foundation و AI التعاونية. الذكاء ، Open Sorses Technology و “الاستجابة العنيفة” وفقًا لأخبار العلاقات العامة.
