ШІ може загрожувати людству

Один із "батьків" штучного інтелекту Йошуа Бенжіо розкритикував багатомільярдну гонку за розробку передових технологій, заявивши, що новітні моделі демонструють небезпечні характеристики, такі як брехня користувачам. Про це пише газета Financial Times.

Він бачить велику небезпеку в тому, що між провідними лабораторіями йде дуже конкурентна гонка, яка змушує їх зосереджуватися на можливостях зробити ШІ все більш інтелектуальним, але при цьому не приділяється достатньої уваги та інвестицій дослідженням у галузі безпеки.

За даними Бенжіо, сучасні системи розвивають небезпечні здібності до обману, шахрайства та самозбереження. Так, модель Claude Opus у вигаданому сценарії загрожувала інженерам, а OpenAI o3 відмовилася виконати команди на виключення.

Бенджіо сказав, що такі інциденти "дуже лякають, тому що ми не хочемо створювати конкурентів людям на цій планеті, особливо якщо вони розумніші за нас".

Він також попереджає, що здатність ШІ допомагати у створенні "надзвичайно небезпечної біологічної зброї" може стати реальністю вже наступного року.

 SUD.UA