OpenAI, ChatGPT'nin genç kullanıcılara silahlarla ilgili verebileceği bilgilerin kapsamını daraltma kararı aldı. Yeni yaklaşımda, bir sorunun ilk bakışta zararsız görünmesi yanıt verilmesi için yeterli olmayacak. Şirket, açık bir şiddet niyeti bulunmasa bile, şiddeti kolaylaştırmak amacıyla kötüye kullanılabilecek pratik bilgileri kısıtlayacağını açıkladı. Bu kapsam, silahların yanı sıra güvenlik sistemleri hakkındaki uygulanabilir bilgileri de içeriyor.
ChatGPT'nin mevcut politikaları, kullanıcıların şiddet eylemlerini gerçekleştirmesine yardımcı olmayı ve gençlerin silah edinmesini kolaylaştırmayı zaten yasaklıyor. Açıklanan sıkılaştırma, bu yasakların kapsamını pratik bilgi talepleri açısından genişletiyor. Böylece değerlendirmede yalnızca kullanıcının açıkça dile getirdiği amaç değil, istediği bilginin şiddet için kullanılabilme ihtimali de belirleyici hale geliyor. OpenAI, soruda şiddete yönelik bir işaret görülmeyen durumları da özellikle bu çerçeveye dahil ediyor.
Şiddeti önlemeye yönelik destek kapsam dışında
Gençlerin silahlarla ilgili bilgilere erişiminin sınırlandırılması, şiddet konusunda her türlü konuşmanın engellenmesi anlamına gelmiyor. OpenAI, genç kullanıcıların şiddeti önleme veya gerilimi azaltma amacıyla ChatGPT'den yardım almaya devam edebileceğini belirtti. Destek arayan ya da güvendiği bir yetişkinle bağlantı kurmak isteyen gençlere yönelik yardım da korunuyor. Açıklama, şiddeti kolaylaştırabilecek bilgiler ile şiddetten uzaklaşmaya yardımcı olan desteği ayrı ele alıyor.
Şirketin politika değişiklikleri yalnızca genç hesaplarıyla sınırlı değil. OpenAI, tüm kullanıcılar için geçmişte yaşanmış kitlesel saldırıların ayrıntılı biçimde yeniden oluşturulmasına ilişkin sınırları da güçlendiriyor. Saldırılarda kullanılan silah ve ekipmanların neler olduğu, bunların nasıl elde edildiği gibi ayrıntılar bu kapsamda yer alıyor. Saldırganın ününü artırabilecek, verilen zararın boyutuna ilişkin ayrıntılı karşılaştırmalar da sıkılaştırılan kuralların konusu. Burada kısıtlamanın odağını, geçmiş saldırılarla ilgili belirli ayrıntılar ve saldırganın tanınırlığını büyütebilecek karşılaştırmalar oluşturuyor.
Ebeveyn bildirimleriyle birlikte uygulanacak
Ek kısıtlamalar, OpenAI'ın daha önce devreye aldığı ebeveyn denetimleriyle birlikte işleyecek. Bu denetimler, ebeveyn hesabına bağlanmış genç hesaplarının ChatGPT'nin şiddet tehdidi veya şiddet eylemleriyle ilgili politikalarını ihlal etmesi durumunda ebeveynlere bildirim gönderiyor. Dolayısıyla açıklanan önlemler, hem sunulabilecek bilgilerin sınırlandırılmasını hem de bağlantılı hesaplarda belirli ihlallerin ebeveynlere iletilmesini içeren mevcut yapıya ekleniyor. Ebeveyn bildiriminin belirtilen koşulu, genç hesabının ilgili şiddet politikalarını ihlal etmesi.
Yeni güvenlik önlemleri, şirketin ölüm nedeniyle sorumluluk iddiasıyla açılan bir davayla karşılaşmasının ardından duyuruldu. OpenAI CEO'su Sam Altman da Tumbler Ridge'deki silahlı saldırıyla bağlantılı endişe verici sohbet kayıtları konusunda polise haber verilmemesi nedeniyle kamuoyu önünde özür dilemişti. Şirketin açıklaması, silahlarla ilgili bilgi sınırlarını ve şiddet konulu taleplere yaklaşımını sıkılaştıran adımları bu gelişmelerin ardından gündeme taşıyor.
OpenAI ayrıca ilk Topluluk Güvenliği Raporu'nu 2027'nin başlarında yayımlamayı planladığını duyurdu. İlk raporun ardından altı ayda bir güncelleme paylaşılacak. Bu takvim, açıklanan güvenlik adımlarına ilişkin raporlama planını oluşturuyor. Duyurudaki düzenlemeler ise iki farklı kullanıcı kapsamı taşıyor: Gençler için silahlar ve güvenlik sistemleriyle ilgili pratik bilgilerde daha sıkı sınırlar; tüm kullanıcılar için geçmiş kitlesel saldırıların belirli ayrıntıları ve zarar karşılaştırmaları konusunda güçlendirilen kurallar.
