Meta, gençlerin yapay zeka ile kendine zarar verme konularını konuşması durumunda ebeveynleri uyaracak yeni güvenlik özelliğini duyurdu.
Meta, gençlerin Instagram, Facebook veya Meta Horizons üzerindeki yapay zeka sohbetlerinde intihar veya kendine zarar verme konularını konuşmaları durumunda ebeveynleri uyaracak yeni bir özellik başlattı. Bu sistemden faydalanmak isteyen ebeveynlerin, Meta’nın sunduğu aile denetim araçlarını aktif hale getirmeleri ve denetlemek istedikleri hesapları seçmeleri gerekiyor.
Yeni özellik, platformun mevcut güvenlik önlemlerini desteklemek amacıyla devreye alınıyor. Meta, gençlerin kendine zarar verme düşüncelerine dair işaretler algıladığında, onları kriz hatlarına yönlendirmeye ve yetişkinlerden yardım istemeye teşvik etmeye devam ediyor.
Ebeveynlere yönelik yeni güvenlik önlemleri
Meta, yapay zekanın sohbetlerdeki ince referansları bile tespit etmeyi hedeflediğini ancak her işaretlenen içeriğin manuel olarak inceleneceğini belirtiyor. Şirket, ebeveynlerin bu bildirimleri almasının üzücü olabileceğini kabul ederek, hatalı bildirim riskine karşı temkinli bir yaklaşım sergiliyor.
Belirsiz durumlarda dahi ebeveynleri bilgilendirmeyi tercih eden şirket, bu sistemi bir başlangıç noktası olarak görüyor. Ebeveynlerin çocuklarının hesaplarını denetleyebilmesi için öncelikle aile denetim ayarlarını yapılandırmaları gerekiyor.
Bu yeni özellik şu an için ABD, Kanada, İngiltere ve Avustralya’da kullanıma sunulmuş durumda. Meta, Facebook ve Instagram gönderilerinde intihar riski tespit ettiğinde acil durum servislerini bilgilendirme uygulamasını, gelecekte Meta AI sohbetleri için de genişletmeyi planlıyor.
Acil durum müdahale kapasitesi genişliyor
Şirket, Meta AI ile yapılan görüşmelerde bir kişinin kendine zarar verme riski taşıdığı durumlarda acil durum servisleriyle iletişime geçebilmek için çalışmalar yürütüyor. Geçtiğimiz yıl dünya genelinde 19 binden fazla yönlendirme yapan Meta, bu sayede ilk müdahale ekiplerinin risk altındaki kişilere ulaşmasına yardımcı oldu.
Meta, gençlerin ve yetişkinlerin bu tür durumlarda profesyonel destek almalarını önemle vurguluyor. Kişiler, 988 İntihar ve Kriz Hattı gibi kaynaklara başvurarak veya acil servisleri arayarak yardım talep edebiliyor. Meta’nın gençlerin güvenliğini artırmaya yönelik bu yeni adımı hakkında siz neler düşünüyorsunuz?
