Çin’in Gansu eyaletinde bir adam, sahte bir haber üretmek için ChatGPT’yi kullandığı gerekçesiyle gözaltına alındı. Bu olay, Çin’de yapay zekâ destekli yanlış bilgilendirme ile ilgili gerçekleştirilen ilk resmi tutuklama olarak kayıtlara geçti.
SAHTE KAZA HABERİYLE 15 BİN TIKLAMA ALDI
Reuters’ın aktardığı bilgilere göre, Hong soyadlı şüpheli, Çin’in kuzeybatısındaki Gansu bölgesinde dokuz inşaat işçisinin hayatını kaybettiği yönünde sahte bir tren kazası haberi üretti. Bu içerik, Çin’in önde gelen teknoloji şirketlerinden Baidu’nun sahibi olduğu içerik platformu Baijiahao üzerinde yayımlandı.
Polis yetkililerinin açıklamasına göre, söz konusu sahte haber 25 farklı kullanıcı hesabı üzerinden çeşitli IP adreslerinden yayına sokuldu ve sosyal medyada 15 binden fazla görüntülenme elde etti.
POLİS TAKİBİ SONUÇ VERDİ
Gansu eyaletine bağlı Pingliang şehrindeki emniyet birimleri, olayın ardından teknik takibe başladı. Yapılan dijital izleme çalışmaları sonucu, sahte haberin ChatGPT kullanılarak oluşturulduğu ve bu içeriği yayan kişinin Hong olduğu tespit edildi. Hong, “yanlış bilgi uydurma” suçlamasıyla gözaltına alınarak yasal sürece dahil edildi.
DEEPFAKE VE YAPAY ZEKÂ KURALLARI SIKILAŞTI
Çin, son yıllarda yapay zeka ve özellikle deepfake teknolojilerine karşı daha sıkı düzenlemeler uygulamaya başladı. 10 Ocak itibarıyla yürürlüğe giren yeni düzenlemeler, çevrimiçi içeriğin üretimi ve yayılmasında yapay zekâ teknolojilerinin kullanımını sınırlamayı amaçlıyor. Bu kurallar, kullanıcıların ve hizmet sağlayıcılarının, gerçeği yansıtmayan dijital içerikler üretmesini ve paylaşmasını açıkça yasaklıyor.
Yetkililer, yapay zekâ araçlarının kötü niyetli kullanımına karşı mücadeleyi sürdüreceklerini ve dijital ortamda güvenliği sağlamak adına denetimlerin artırılacağını vurguladı.
YAPAY ZEKÂNIN KARANLIK YÜZÜ MÜ?
Bu olay, yapay zekânın üretken özelliklerinin ne derece yanlış amaçlarla kullanılabileceğini bir kez daha gözler önüne serdi. ChatGPT gibi dil modelleri, bilgi üretme kapasitesi sayesinde birçok alanda verimlilik sağlarken, kötü niyetli kullanıcılar tarafından manipülasyon amacıyla da kullanılabiliyor.
