BM, yapay zekanın varoluşsal riskler taşıdığına dikkat çekti

Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, ileri düzey yapay zekanın (YZ) insanlık için varoluşsal risk oluşturabileceğini belirtti. Türk, bu değerlendirmesini pazartesi günü Cenevre’de gerçekleştirilen bir toplantıda yaptı ve sektörden gelen uyarılarla benzer bir çizgi izledi.

Türk, yapay zeka sistemlerinin ne zaman fazla güçlü hale geldiğine dair kendi sınırlarını da açıkladı. Bu sınırlar, belirli davranışların aşırı güçlü bir YZ yaratabileceğini işaret ediyor. Özellikle, iki davranışın bu riski artırdığına dikkat çekti.

Yapay zeka teknolojilerinin hızla gelişmesi, pek çok sektörde köklü değişikliklere yol açarken, bu tür uyarılar piyasalarda endişe yaratabilir. İleri düzey yapay zekanın kontrol edilememesi durumunda, insanlık için çeşitli tehditler ortaya çıkabileceği konusunda endişeler artıyor.

Sektör temsilcileri, BM'nin bu uyarıları doğrultusunda yapay zeka uygulamalarının daha dikkatli bir şekilde geliştirilmesi gerektiğini vurguluyor. Özellikle, etik kuralların ve düzenlemelerin oluşturulması önem kazanmaktadır.

Gelecekte, yapay zeka sistemlerinin insanlık için faydalı olabilmesi adına bu tür risklerin yönetilmesi elzem hale geliyor. Bu bağlamda, hem kamu hem de özel sektörün iş birliğiyle, güvenli ve sürdürülebilir bir yapay zeka geliştirme sürecine yönelik adımlar atılması gerekecek.