Технологічна галузь розробляє протоколи безпеки для програмного забезпечення на основі штучного інтелекту, щоб уникнути «моменту Хіросіми», заявив генеральний директор компанії Salesforce Марк Беніофф на панелі Всесвітнього економічного форуму в Давосі.
«Це величезний момент для штучного інтелекту. ШІ зробив величезний стрибок вперед за останні рік-два», – зазначив він, визнавши, що на тлі швидких темпів прогресу ця технологія «може піти зовсім не туди».
Зростає занепокоєння щодо надійності та використання ШІ, а критики по всьому світу ставлять під сумнів те, що штучний інтелект прийде на зміну працівникам-людям.
Раніше цього тижня Міжнародний валютний фонд опублікував звіт, у якому попередив, що розвиток штучного інтелекту може вплинути майже на 40% робочих місць по всьому світу.
«Ми не хочемо, щоб щось пішло не так. Ось чому ми збираємося на цей саміт із питань безпеки. Ось чому ми говоримо про довіру», – сказав Беніофф у четвер.
«Ми не хочемо повторення Хіросіми. Ми бачили, як технології розвиваються не так, як треба, і ми бачили Хіросіму. Ми не хочемо бачити Хіросіму зі штучним інтелектом. Ми хочемо бути впевненими, що вже зараз тримаємо все під контролем».
Компанія Беніоффа Salesforce має власний досвід у цій сфері після запуску генеративного програмного забезпечення для штучного інтелекту Einstein GPT. Компанія приєдналася до глобальної гонки серед розробників, які намагаються впровадити можливості генеративного ШІ у свої продукти, що вже існують.
Бекграунд. Гендиректор OpenAI Сем Альтман заявив у Давосі, що для майбутнього розвитку штучного інтелекту необхідний енергетичний прорив, який даватиме людству значно більше енергії, ніж люди отримували досі.