Yapay zekâ şirketi OpenAI, çocukların istismarına ilişkin çevrim içi görüntüleri, yapay zekâ üretimi olanlar da dahil, tespit edebilen “yeni bir sınıflandırma aracı” geliştirdiğini açıkladı.
Şirketin internet sitesinde paylaştığı bilgilere göre yeni görüntü sınıflandırma aracı, çocuk istismarı içeren ve daha önce fark edilmemiş görselleri saptamak için görsel işaretleri inceliyor.
Araç, inceleme ekiplerine hangi görüntülerin öncelikle ele alınması gerektiğini belirten puanlar veriyor.
OpenAI, yapay zekâ tarafından üretilen çevrim içi çocuk istismarı içeriklerini belirlemeye özgü bir sinyal sağlayan ve geniş erişime sunulan ilk sınıflandırma aracı olduğunu söylediği sistemi, onaylı kuruluşların kullanımına ücretsiz açacak.
ChatGPT’de zararlı davranışlara ilişkin uyarılar devreye girecek
OpenAI, yürürlükteki güvenlik önlemlerine ilave olarak, ChatGPT’de çocuk istismarı içeriği arama girişimlerini engelleyecek yeni uyarı mekanizmalarını devreye alacağını bildirdi.
Bu çerçevede kullanıcıya, çocuklara yönelik istismar kapsamına girebilecek içeriklerin yapay zekâ tarafından oluşturulmuş olsa bile zarara neden olduğu bildirilecek.
İşaretlenen sohbet silinecek, kullanıcının ChatGPT erişimi ise 24 saat boyunca askıya alınacak. Bu süre içinde zararlı davranışları bırakmaya yönelik uzman desteği de sağlanacak.
İhlallerin yinelenmesi durumunda daha uzun süreli kısıtlamalara gidilebilecek; hesabın kapatılması ya da durumun yetkililere iletilmesi de gündeme gelebilecek.
Şirket, bu yöntemi çocuk istismarını önleme alanında faaliyet gösteren kuruluşların ve akademik danışmanların katkılarıyla geliştirdiğini aktardı. ???????

YORUMLAR
İLK YORUM YAPAN SEN OL