HABER MERKEZİ – Kullanıcıların yapay zeka modellerini kullanım biçimleri yeni tartışmaları da beraberinde getirmeye devam ediyor. Gelen yeni bilgilere göre, geçen yaz ChatGPT’ye yönelik yüzlerce şüpheli sorgu tespit edildi. İddiaya göre bu sorguların büyük bölümü zehirler, bir kısmı ise biyolojik silahlarla ilgiliydi.
Haberde, söz konusu sorguların yapay zeka güvenlik testleri kapsamında oluşturulmuş örnekler değil, gerçek kullanıcılar tarafından gerçekleştirilen kullanım senaryoları olduğu öne sürülüyor. Haberi hazırlayan WSJ, bu sorguların nasıl tespit edildiğine veya hangi yöntemlerle incelendiğine ilişkin ayrıntılı bilgi paylaşmadı.
YANITLAR UZMANLAR TARAFINDAN İNCELENDİ
Habere göre, tespit edilen bazı konuşmalar daha sonra biyoloji ve terörizm alanında çalışan uzmanlara gönderildi. Uzmanların, yapay zekânın verdiği bazı yanıtları teknik açıdan oldukça doğru bulduğu iddia edildi.
Bununla birlikte haberde, ChatGPT’nin bilgileri adım adım ve lise seviyesindeki bir kişinin anlayabileceği şekilde sunduğu öne sürülüyor. Bu tür sorguları gerçekleştirdiği belirlenen kullanıcıların platformdan uzaklaştırıldığı belirtilirken, her olayın kolluk kuvvetlerine bildirilmediği ifade ediliyor.
OpenAI ise yaptığı açıklamada, gerçek dünyada somut tehdit oluşturduğu değerlendirilen taleplerin ilgili güvenlik birimlerine iletildiğini belirtti.
Üretken yapay zekâ sistemlerinin kötü niyetli kişiler tarafından nasıl kullanılabileceği son dönemde teknoloji sektörünün en önemli tartışma başlıklarından biri haline geldi.
Haberde, bugüne kadar kamuoyuna yansıyan örneklerde yapay zekâ sohbet botlarının çoğunlukla genel tavsiyeler veya yönlendirmeler sunduğu, doğrudan yeni ve benzersiz saldırı yöntemleri geliştiren araçlar haline gelmediği ifade ediliyor.
Bununla birlikte uzmanlar, yapay zekâ modellerinin her geçen yıl daha gelişmiş hale gelmesi ve açık kaynaklı alternatiflerin yaygınlaşmasıyla birlikte güvenlik risklerinin de artabileceğine dikkat çekiyor.
