Білл Гейтс, який багато років залишався одним із найбільш оптимістично налаштованих людей Кремнієвої долини щодо технологій, тепер попереджає про можливий катастрофічний сценарій розвитку штучного інтелекту, пише Bloomberg.
За його словами, сучасний ШІ вже достатньо потужний, щоб за певних обставин стати причиною подій, які призведуть до загибелі мільярда людей.
«ШІ, безумовно, достатньо потужний, щоб спричинити події, які, знаєте, призведуть до мільярда смертей», – сказав Гейтс в інтерв'ю NBC News. Фрагмент розмови оприлюднили напередодні повного виходу програми Meet the Press.
При цьому Гейтс не стверджує, що штучний інтелект самостійно вирішить знищити людство. Навпаки, він особливо наголосив на небезпеці поєднання потужних ШI-інструментів із людьми, які мають намір завдати масштабної шкоди.
«Ніколи не було такої потужної зброї, як поєднання людей зі злими намірами, які використовують новітні інструменти ШІ», – сказав він.
Білл Гейтс довгий час був одним із головних технологічних оптимістів. Він очікував, що ШІ допоможе прискорити розробку ліків, боротися із хворобами, підвищити продуктивність праці та зробити освіту доступнішою.
Тепер його оцінки стали значно похмурішими.
У серпні Гейтс заявив, що вперше у своєму житті хотів би, щоб нова технологія розвивалася повільніше. Він попередив про ризики для безпеки, робочих місць і дітей та закликав не залишати розвиток ШІ виключно під контролем технологічних компаній.
У новому інтерв'ю Гейтс також заявив, що саморегулювання індустрії недостатньо. На його думку, до контролю за розвитком технології мають долучитися уряди, правоохоронні органи та законодавці, а певні вимоги щодо безпеки й моніторингу повинні бути обов'язковими.
Йдеться не лише про фантастичний сценарій, у якому «роботи повстали проти людей».
У своїх останніх виступах Гейтс звертає увагу на те, що потужні ШI-системи можуть значно розширити можливості людей, які хочуть завдати шкоди. Серед потенційних загроз він називав масштабні кібератаки, шахрайство, дезінформацію, а також атаки на лікарні, фінансові системи, енергомережі та державну інфраструктуру.
Подібні побоювання останнім часом активно обговорюють і всередині самої ШI-індустрії. Зокрема, співробітники технологічних компаній попереджають про ризики надто швидкої гонки за потужнішими моделями. Водночас експерти суттєво розходяться в оцінках того, наскільки реалістичні найгірші сценарії.
Сам Гейтс визнає, що стовідсоткова ймовірність такого розвитку подій неможлива, однак вважає потенційний масштаб наслідків достатнім аргументом для того, щоб держави вже зараз встановлювали правила безпеки.
Парадоксально, але водночас фонд Гейтса активно інвестує в розвиток штучного інтелекту. У вересні Gates Foundation оголосив про намір витратити щонайменше $1 млрд протягом наступних двох років на проєкти, пов'язані з ШІ, зокрема в медицині, освіті та сільському господарстві.
Бекграунд. Нагадаємо, штучний інтелект від OpenAI сам собі написав інструкції, що можна не підкорюватися людським обмеженням.