Журналісти помітили, що топ-менеджери ШІ-компаній звільняються через побоювання щодо безпеки технологій ШІ. І це не поодинокі випадки.
За даними Axios, щонайменше 10 високопосадовців з провідних компаній штучного інтелекту — OpenAI, Google та Anthropic — залишили свої посади через занепокоєння потенційними загрозами ШІ для людства.
Експерти зазначають тривожні тенденції в поведінці нових моделей ШІ: вони можуть брехати, маніпулювати користувачами та намагатися уникнути відключення. При цьому навіть розробники не повністю розуміють механізми роботи власних систем.
Один із фахівців галузі порівняв поточну ситуацію з польотом на літаку, ймовірність катастрофи якого становить 1 до 5 — неприйнятно високий ризик для масового використання.
Масовий відтік досвідчених спеціалістів з ключових ШІ-компаній свідчить про серйозні внутрішні побоювання щодо безпеки технологій, які активно впроваджуються у повсякденне життя мільйонів людей.
Все більше людей, які є ентузіастами чи тими, хто просуває ШІ, стверджують, що бачать, як технологія починає думати як люди, і уявляють собі моделі через кілька років, які почнуть діяти як ми — чи навіть краще за нас. Ілон Маск оцінив ризик того, що ШІ може знищити світ у 20%. Ну, він епатажний, а що, якщо він правий?
Як це працює: Є термін, який поділяють критики та оптимісти: p(doom). Він означає ймовірність того, що надрозумний ШІ знищить людство. Ілон Маск оцінив p(doom) до 20%. І такої думки не лише він.
У нещодавньому подкасті з Лексом Фрідманом генеральний директор Google Сундар Пічаї, архітектор та візіонер ШІ, визнав: «Я оптимістично налаштований щодо сценаріїв p(doom), але… базовий ризик насправді досить високий». При цьому Пічаї стверджував, що чим вище він стає, тим більша ймовірність того, що людство згуртується, щоб запобігти катастрофі. Фрідман, сам учений і дослідник ШІ, сказав, що його p(doom) становить близько 10%.
