Altman ve Amodei risklere karşı ortak standart istedi

Birleşmiş Milletler Güvenlik Konseyinde düzenlenen “Yapay zekâ ve uluslararası güvenlik” toplantısında teknoloji şirketlerinin yöneticileri, yapay zekânın hızla gelişmesinin beraberinde getirdiği güvenlik risklerine dikkat çekti. OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, bu alanda uluslararası iş birliğinin güçlendirilmesi gerektiğini vurguladı.

Kontrol kaybı ve kötüye kullanım riski gündemde

Altman, yapay zekâ sistemlerinin giderek daha yetenekli ve otonom hale gelmesinin güç dengelerini değiştirebileceğini belirtti. Amodei ise iki temel risk alanına işaret ederek yapay zekânın kötüye kullanılması ve sistemler üzerindeki insan kontrolünün kaybedilmesi ihtimaline dikkat çekti.

Ortak test ve doğrulama mekanizmaları önerildi

Amodei, devletlerin gelişmiş yapay zekâ modellerinin kabiliyetleri hakkında bilgi sahibi olabilmesi ve ülkelerin taahhütlerinin uygulanıp uygulanmadığının doğrulanabilmesi için ortak değerlendirme ve doğrulama sistemleri kurulmasını önerdi. Hugging Face Üst Yöneticisi Clement Delangue de siber güvenlik tehditlerinin azaltılması amacıyla küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu ifade etti.

Kaynak: AA