Інсайти Давосу: яким буде штучний інтелект за кілька років
Цьогоріч очікується революція в обробці зображень
Під час Всесвітнього економічного форуму в Давосі багато уваги – і це логічно – було приділено по-справжньому хайповому питанню штучного інтелекту. Світова інтелектуальна, політична та бізнесова еліта намагалася розібратись, що робити із цією дивною технологією, яка віщує звільнення кожного третього працівника сучасної економіки, водночас не здатна відповісти на прості запитання, плутається у власних відповідях, але згодом створює бездоганний програмний код.
Дискусії точилися довкола етичних питань, регулювання, технологічних небокраїв ШІ, а також – грошей. Зокрема, генеральний директор компанії Salesforce, власник журналу Time Марк Беніофф заявив, що ШІ-стартапи використовують «вкрадені» дані для розвитку своїх великих мовних моделей, і тому мають навчитися платити творцям контенту, зокрема медіа, за їхню роботу.
Хедлайнером конференції, звичайно, був засновник OpenAI Сем Альтман, який, виступаючи на ВЕФ у Давосі, розповів про роботу над новою версією великої мовної моделі компанії – GPT-5.
При цьому він попередив, що майбутні версії моделей можуть виявитися дещо «незручними» для людей, оскільки матимуть високий рівень персоналізації, заснований на їхніх цінностях і країні проживання кожного окремого користувача.
Раніше ми писали про футуристичні прогнози Білла Гейтса, який передбачив саме такий розвиток подій – створення особистих помічників-«агентів» на базі ШІ.
Проте прогрес у галузі штучного інтелекту вимагає енергетичних проривів і, як повелось, залежний від «людського фактору».
Розробка найновітніших моделей вимагатиме прориву в галузі енергетики, оскільки створення ШІ-моделей потребує значної кількості ресурсів. Так, Марк Цукерберг із Meta Platforms поділився планами створення загального штучного інтелекту – програми, що мислить як людина. Для цього компанія створює запаси графічних процесорів (GPU) і до кінця поточного року матиме їх понад 600 000, більше половини з яких – з чипом H100 від Nvidia (вартість одного – $57 000).
Крім того, у Давосі Альтман не відповів на запитання про кризу керівництва, що спіткала OpenAI та викликала багато запитань до компанії, а також повідомив, що незвичайна управлінська структура компанії може незабаром змінитися.
Однак найцікавіше – і найрозумніше – відбувалося не на центральній сцені Давосу, де світили ШІ-зірки, а на профільній панелі «Всесвіт генеративних моделей, що розширюється».
Учасники дискусії розмірковували про швидкість і передумови розвитку технології штучного інтелекту, потребу в обмеженнях цього розвитку та радилися, де взяти дані, на яких навчатимуться моделі. Mind занотував найцікавіше.
Лі Кайфу,
автор першої системи безперервного розпізнавання мови, інвестор, екстопменеджер Apple, Microsoft, Google, автор книг про ШІ, засновник і генеральний директор стартапу-«єдинорога» 01.AI:
– Попри деяку сповільненість у розвитку ШІ, він усе одно відбувається неймовірними темпами. За останні два роки значно поліпшилася якість моделей: це відбувається завдяки збільшенню кількості ресурсів, але є місце і для поліпшення налаштування та різного штибу вдосконалень.
Не варто забувати про комерційну цінність. Великі мовні моделі створюють видимість логічних міркувань, розв'язуючи реальні проблеми, створюючи контент і підвищуючи нашу продуктивність. Особисто я бачу дуже багато користі, яку ще можна буде отримати.
Зараз – чудовий час для дослідників, але не для стартапів. Було б краще, щоб відкриття робили науковці та дослідники корпоративних лабораторії, а ми, стартапи, їх використовували.
Ейдан Гомес,
співавтор технології чат-ботів, засновник і генеральний директор Cohere Inc:
– Поточний стан розвитку ШІ має величезні недоліки через обмеження архітектур і методів, що використовуються. Все має стати простіше та продуктивніше. Зокрема, завдяки наступному поколінню GPU (графічні процесори для навчання ШІ. – Mind).
Моделям треба навчатися. Ми знаємо, як навчити їх: створюючи більші комп’ютери, ми збираємо більше даних. Ці дані ми використовуємо під час офлайн-тренувань мовних моделей, які потім не взаємодіють з онлайн-світом. Над потрібні доступи, щоб наші моделі могли постійно навчатись.
Люди вчаться через дебати, відкриваючи для себе ідеї та знання. Моделі також повинні робити це між собою. Ця ідея самостійної гри та самовдосконалення зараз є основною.
Моделі починають ставати розумнішими. Щоб їх зараз навчити, потрібно піти до студента-біолога, магістра з математики, а потім до доктора філософії. А далі до кого?
Наразі людство та його обсяг знань – верхня межа, що обмежує стратегію розвитку ШІ.
Нам потрібно прорвати цю межу. Мовним моделям потрібен доступ до реального світу, щоб ставити експерименти, отримувати досвід, формувати гіпотези, перевіряти їх, помилятися 1000 разів і досягати успіху, як це роблять люди.
Ендрю Ин,
співзасновник навчальної платформи Coursera, засновник DeepLearning.AI:
– У 2023 року ШІ влаштував революцію в галузі текстів, і думаю, цьогоріч відбудеться революція в обробці зображень. Власне кажучи, вона вже почалася з GPT-4. Ви можете дати мовній моделі інструкцію, вона пів години попрацює, перегляне вебсторінки, зробить низку власних досліджень і повернеться з відповідями.
Думаю, що в майбутньому матимемо набагато більше великих мовних моделей на персональних пристроях.
Я оптимістично налаштований щодо розвитку. Штучний інтелект має тенденцію робити суспільства багатшими, а людей – заможнішими.
Дафна Коллер,
співзасновниця навчальної платформи Coursera, біомедик, засновниця та генеральна директорка Insitro Inc:
– Дані – найбільший рушій прогресу в галузі, але ми використали лише малу їхню частку.
Зараз великі мовні моделі тренуються на всіх даних вебмасштабу, але ніяк не взаємодіють зі світом. А от коли почнемо використовувати доповнену реальність і будемо використовувати дані з біології і охорони здоров'я, а також усі види даних, які зараз приховані у сховищах – зможемо досягти нового рівня.
Люди з дитинства вивчають поняття «причин» і «наслідків» та засвоюють їх, втручаючись у світ і спостерігаючи за тим, що відбувається. А з штучним інтелектом ми цього ще не робили. Тож, якщо хочемо, щоб моделі розвивалися, ми мусимо дати їм можливість не просто розмовляти між собою та існувати у власному маленькому всесвіті, а дійсно експериментувати зі світом і генерувати дані, які допоможуть їм розвиватися.
Великим кроком вперед стане надання комп'ютерам доступу до експериментування: спрощеного (наприклад, що станеться, коли ви впустите ручку) і більш складного (що буде, якщо змішати п'ять хімічних речовин у клітині). Саме такі експерименти дозволять комп'ютеру вийти за межі того, чого може навчити вас людина.
Я не впевнена, що шлях, яким ми йдемо, обов'язково приведе нас до розуміння процесів набуття знань. З іншого боку, є безліч важливих проблем, які потенційно ШІ може розв’язати. Втім ми не досягнемо цього, намагаючись повторити, як міркують люди. Наприклад, люди погано розв’язують питання у сфері біології. Думаю, що ми погано знаходимо ці тонкі закономірності в дуже великих обсягах різнорідних мультимодальних даних.
Ян ЛеКун,
віцепрезидент зі штучного інтелекту Meta Platforms, професор Нью-Йоркського університету:
– Проблема в тому, що в нас закінчуються дані. Чотирирічна дитина бачила в 50 разів більше інформації, ніж найбільша LLM, яка тренована на всіх публічних знаннях інтернету. Виходить, що чотирирічна дитина набагато розумніша. Кількість накопичених знань, очевидно, менша, тому що вони в іншій формі. Але для дитини існує величезна кількість знань про те, як влаштований світ. Отже, нам бракує деяких важливих наукових досліджень і нових архітектур. Для цього знадобиться кілька науково-технічних проривів, які можуть статися наступного року або за 3-5-10 років.
Великі мовні моделі навчаються в системах обробки природної мови (NLP). Берете шматок тексту, спотворюєте його, а потім тренуєте якусь гігантську нейронну мережу, щоб вона відновила повний текст. Тобто навчаєте систему відновлювати відсутню інформацію.
Звісно, очевидна ідея – чому б не зробити це із зображеннями? Я беру шматок зіпсованого зображення, а потім навчаю велику нейронну мережу відновлювати зображення. Але це не працює. Я дев'ять років працюю над відео. Показую фрагмент відеосистемі, а потім навчаю її передбачати, що станеться далі. І це теж не працює.
Найбільш перспективним на цей час, принаймні те, що працює для розпізнавання зображень, не є генеративним. Моделі, які працюють найкраще, не реконструюють зображення. Вони роблять прогноз, але в просторі абстрактної репрезентації. Так само, як я не можу точно передбачити, як ручка впаде у вашу руку, але я можу передбачити, що вона впаде.
Чи треба регулювати штучний інтелект?
Цікавою є думка учасників панелі стосовно унормування галузі штучного інтелекту. Вони сходяться в тому, що спроби врегулювати галузь будуть або марними, або небезпечними. На думку дослідників, саме продукти з відкритим кодом, якими може скористатися кожен охочий, здатні привести до наукових і технологічних проривів, що так потрібні галузі. Але ці продукти, застерігають вони, мають надаватись обережно, щоб не зашкодити.
Загальний консенсус на цьому етапі полягає в тому, що надавати всім без винятку доступ до відкритого коду є небезпечною ідеєю. Проте на іншому боці шкали – консолідація контролю, впливу та влади в руках кількох компаній, що не завжди мають чесну ринкову перевагу.
Тож дискусія стосовно регулювання ШІ лише починається.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
