Штучний інтелект може стати фатальним для людства, якщо не змінити поточний вектор його розвитку. Таку заяву зробив Нейт Соарес — колишній інженер Google та Microsoft, який нині очолює Інститут дослідження машинного інтелекту. Про це повідомляє The Times.
Соарес переконаний, що цивілізація стрімко прямує до катастрофічних наслідків, і якщо не змінити підхід до розвитку технологій, то шанси вижити становитимуть не більше 5%.
«Ми рухаємося до катастрофи з шаленою швидкістю. Якщо не втрутитися, майбутнє людства буде під загрозою», — наголосив він.
Його позицію розділяють провідні експерти зі сфери штучного інтелекту, серед яких лауреат Нобелівської премії Джеффрі Хінтон, математик Йошуа Бенджіо, а також представники компаній OpenAI, Anthropic і Google DeepMind.
Усі вони поставили підпис під відкритим зверненням, у якому йдеться:
«Мінімізація ризику повного зникнення людства через ШІ повинна стати глобальним пріоритетом — на рівні з ядерною загрозою та пандеміями».
Головний страх науковців полягає в тому, що розвиток надрозумного штучного інтелекту (ASI) може призвести до втрати контролю з боку людини. Такий ШІ потенційно здатен діяти стратегічно, маніпулювати інформацією та самостійно ухвалювати рішення.
Окремі фахівці вважають, що небезпека не обов’язково настане у вигляді раптової катастрофи. Значно вірогіднішим виглядає сценарій поступового усунення людини з процесів прийняття рішень. Машини можуть взяти на себе все більше функцій, залишаючи людині все менше автономії та свободи дій.
До цього додається й технологічна нерівність: раніше повідомлялося, що люди, які не користуватимуться «розумними» окулярами з вбудованим ШІ, можуть значно поступатися в когнітивних здібностях тим, хто активно застосовує такі технології.