Yapay zeka dünyası, bu kez teknolojik bir başarıyla değil, hukuki bir yaptırımla gündemde. Çin’in Gansu eyaletinde bir kişi, ChatGPT kullanarak sahte haber ürettiği ve yaydığı gerekçesiyle gözaltına alındı. Bu gelişme, yapay zeka aracılığıyla oluşturulan dezenformasyona yönelik dünyadaki ilk resmi tutuklamalardan biri olarak kayıtlara geçti.
Yapay zeka sohbet robotu ChatGPT, bu kez sınırları aşan bir dezenformasyon olayıyla manşetlerde. Çinli yetkililer, teknoloji tarihine geçecek bir operasyonla, yapay zekayı kötü niyetli kullanarak toplumu infiale sürükleyen sahte bir içerik üreticisini kıskıvrak yakaladı.
Sahte Kaza Haberiyle 15 Bin Tıklama Aldı
Reuters'ın raporlarına göre, Hong soyadlı şüpheli, Çin’in Gansu bölgesinde dokuz inşaat işçisinin feci bir tren kazasında hayatını kaybettiğine dair tamamen asılsız bir haber kurguladı. ChatGPT'nin metin yazma kabiliyetinden yararlanarak oluşturulan bu içerik, Baidu’nun sahibi olduğu Baijiahao platformunda servis edildi. Polis verilerine göre, 25 farklı hesap üzerinden dağıtılan bu yalan haber kısa sürede 15 binden fazla görüntülenme alarak sosyal medyada hızla yayıldı.
Polis Takibi Dijital İzleri Ortaya Çıkardı
Pingliang şehri emniyet birimleri, sanal ortamda hızla yayılan bu trajik haberin gerçekliğini sorguladığında hiçbir resmi kayda rastlamadı. Yapılan teknik ve dijital incelemeler, haberin ChatGPT yardımıyla otomatik olarak kurgulandığını ve farklı IP adresleri kullanılarak manipüle edildiğini ortaya koydu. Dijital ayak izlerini takip eden ekipler, sahte haberin mimarı olan Hong'u "yanlış bilgi uydurmak ve kamu düzenini bozmak" suçlamasıyla gözaltına aldı.
Deepfake ve Yapay Zekâ Kuralları Sıkılaştı
Çin, yapay zeka ve deepfake teknolojilerinin kötüye kullanımını engellemek amacıyla 10 Ocak’ta yürürlüğe giren yeni bir düzenlemeyle bu alandaki denetimlerini en üst seviyeye çıkardı. Yeni kurallar, yapay zeka ile üretilen ancak gerçekmiş gibi sunulan dijital içerikleri kesin bir dille yasaklıyor. Yetkililer, dijital güvenlik ve bilgi doğruluğunu korumak adına benzer girişimlere karşı mücadelenin tavizsiz süreceğini belirtti.
Yapay Zekanın Etik Sınırları Tartışılıyor
Bu olay, ChatGPT gibi güçlü dil modellerinin ne kadar kolay suistimal edilebileceğini bir kez daha kanıtladı. Üretken yapay zeka araçları bilgiye erişimi kolaylaştırsa da, etik sınırlar dışına çıkan kullanıcılar için bu teknolojiler tehlikeli birer manipülasyon silahına dönüşebiliyor.
