OpenAI’nin popüler yapay zekâ sohbet aracı ChatGPT için yeni düzenlemeler yürürlüğe girdi. Buna göre, yapay zekâ artık belirli alanlarda kullanıcı taleplerine yanıt verirken daha katı sınırlamalara tabi olacak. Yeni düzenlemeye göre ChatGPT; ilaç ismi veya dozajı veremeyecek, dava dilekçesi hazırlayamayacak, yatırım tavsiyesi sunamayacak ve tıbbi tavsiyelerde bulunamayacak.
Bu değişikliğin amacı, kullanıcı güvenliğini artırmak ve yapay zekâ araçlarının yanlış veya riskli bilgi üretmesini engellemek olarak açıklandı. OpenAI yetkilileri, modelin kullanıcıyı bilgilendirmeye devam edeceğini ancak kritik kararların mutlaka bir uzman görüşü ile desteklenmesi gerektiğini vurguladı.
Yapay zekâ uzmanları, bu tür sınırlamaların yapay zekâ teknolojilerinin daha güvenli ve etik kullanımını teşvik ettiğini belirtiyor. Ancak bazı kullanıcılar, kısıtlamaların modelin pratik kullanım alanlarını daraltabileceğini savunuyor.
Yeni kurallar çerçevesinde ChatGPT, ilgili alanlarda genel bilgi sunabilecek ancak kesin yönlendirmeler veya profesyonel tavsiye yerine “bilgilendirme ve farkındalık” odaklı yanıtlar verecek. Örneğin bir kullanıcı tıbbi bir konuda ilaç ismi veya dozajı sorduğunda, yapay zekâ yalnızca genel sağlık bilgisi sunacak ve “bir doktora danışın” yönlendirmesi yapacak.
Bu adım, son dönemde yapay zekâ araçlarının yanlış bilgi üretmesi, sahte belge oluşturması ve yatırım tavsiyesi vermesi gibi tartışmaların ardından atılmış önemli bir güvenlik önlemi olarak değerlendiriliyor.
