«Синій кит» штучного інтелекту: чому DeepSeek досі «живе» в жовтні 2023 року та які ризики несе користувачам

Нещодавно світ сколихнула приголомшлива історія зльоту DeepSeek. «Широко відомий у вузьких колах» китайський стартап лише за рік розробляє та випускає на ринок ШІ-модель DeepSeek-R1, яка начебто перевершує провідні американські розробки. Зовсім (не)випадково DeepSeek публікує реліз як раз під час заяв Дональда Трампа про $500 млрд інвестицій у Stargate. Також зовсім (не)випадково в мережі з’являється дослідження про те, що DeepSeek витратив на навчання моделі в сотні разів менше коштів, ніж OpenAI, Meta, Google тощо. А цей факт уже дійсно невипадково обвалює акції виробників чипів: лише Nvidia за один день втратила $600 млрд капіталізації. Зараз експерти шукають розгадки феномену «мінімальних витрат» у технологічній площині, перевіряють достовірність дослідження та можливість обходу санкцій США щодо постачання чипів до Китаю.

Тим часом Mind спробував перевірити, що заховано «під обшивкою» у DeepSeek. Молодий стартап, який начебто не мріє про окупність, знову ж таки (не)випадково надав безоплатний доступ до свого ШІ-бота в застосунку та десктоп-версії. За останній тиждень лише застосунок завантажено понад 1,6 млн разів. У США він обігнав свого конкурента ChatGPT і посів перший рядок за кількістю завантажень серед безплатних програм у магазині App Store Apple, а в Україні стрімко злетів на друге місце.

Які дані користувачів збирає DeepSeek та кому їх може передавати? «Найголовніший ризик мобільного застосунку DeepSeek – це те, що ваші дані, зокрема листування та файли, з якими ви працюєте, фактично стають доступними для китайського уряду, який, м’яко кажучи, не є союзником чи партнером України в повномасштабній війні проти росії. Це особливо небезпечно для державних службовців і військових», – вважає консультант із використання генеративного ШІ Олексій Мінаков.

Його думку частково підтверджує сам DeepSeek. У політиці конфіденційності компанія розповідає, що сервіс надається та контролюється компаніями Hangzhou DeepSeek Artificial Intelligence Co і Beijing DeepSeek Artificial Intelligence Co., зареєстрованими в Китаї. Ці компанії мають дотримуватися законодавства КНР, зокрема передавати дані користувачів до КПК. «Ми можемо отримувати доступ, зберігати та ділитися інформацією з правоохоронними органами, державними органами…, партнерами-рекламодавцями», – йдеться в описі.

• Дані від користувачів: дата народження, ім’я, адреса електронної пошти та/або номер телефону, пароль, текстовий чи звуковий вхід, підказки, завантажені файли, відгуки, історія чатів, документи, що підтверджують особу чи вік, відгуки чи запити про використання сервісу тощо.
• Автоматично зібрана інформація: IP-адреса, унікальні ідентифікатори пристрою, підключення до мережі, модель пристрою, операційна система, шаблони або ритми натискання клавіш, мова системи, інформація про продуктивність пристрою, зокрема звіти про збої та журнали продуктивності, файли cookie та інші подібні технології (вебмаяки, флеш-файли cookie тощо). Якщо в користувача платні послуги (наразі немає), сервіс додатково збирає «платіжне доручення», інформацію про трансакції.
• Інформація з інших джерел: від Apple або Google – при реєстрації, від рекламодавців, дослідників – на постійній основі. «Рекламодавці, вимірювальні та інші партнери діляться з нами інформацією про вас і дії, які ви виконали за межами послуги, як-от ваші дії на інших вебсайтах і в програмах або в магазинах, включно з продуктами чи послугами, які ви придбали в інтернеті чи особисто. Ці партнери також діляться з нами інформацією, такою, як ідентифікатори мобільних пристроїв для реклами, адреси електронної пошти та номери телефонів, а також ідентифікатори файлів cookie», – відверто уточнюється в політиці конфіденційності.

«DeepSeek – це чудовий інструмент для збору розвідданих», – попереджає керівник Центру протидії дезінформації при РНБО України Андрій Коваленко. Та пояснює: будь-який штучний інтелект вивчає користувача й збирає всю інформацію про його переживання, інтереси, сім'ю, фінанси та практично все інше. Люди добровільно ставлять запитання й отримують відповіді, тоді як ШІ зберігає цю інформацію. «Потім можна отримувати моделі поведінки цілих суспільств і далі продумувати інструменти впливу. Справжнє питання в тому, хто володіє цим ШІ і яка його кінцева мета», – наголошує експерт.

Чи надає DeepSeek об’єктивні відповіді без домішок китайської пропаганди? Багато користувачів з України вже скаржаться, що цей ШІ-бот взагалі відмовляється розповідати про лідерів Компартії та криваві події в історії Китаю. «ШІ-система DeepSeek має політичну та ідеологічну цензуру. Наприклад, коли я попросив її перерахувати злочини комуністичних режимів, вона відмовилася відповідати. Не здивуюсь, якщо в найближчому майбутньому розробники цієї ШІ-системи накладуть цензуру ще й на війну росії з Україною, щоб не називати речі своїми іменами», – пояснює Олексій Мінаков.

Поки що, відповідаючи на запитання Mind про війну, Крим тощо, DeepSeek видавав досить об’єктивну інформацію та не дивував маніпуляціями у стилі «не все так однозначно», як його «колега» Grok.

Але «спалився» на уточнювальному запитанні, чи використовується примусова праця уйгурів на фабриках Temu. Спочатку DeepSeek розповів, що прямих доказів наразі немає, але є побічні, та почав їх перераховувати. Втім не встиг. «Вибачте, це виходить за межі моїх поточних можливостей. Поговоримо про інше», – запропонував бот і видалив свою попередню відповідь.

Хоча до цього DeepSeek заперечував, що в ньому є цензура, та запевняв, що йому заборонено відповідати лише на деякі запитання. «Я розроблений, щоб дотримуватися принципів безпеки й етики, тому в мене є певні обмеження, які допомагають уникнути шкоди, поширення неправдивої інформації або порушення законів», – розповів бот.

Та уточнив, що не відповідає на запитання, що стосуються:

• небезпечних або шкідливих дій (наприклад, як зробити зброю чи нашкодити собі або іншим);
• незаконної діяльності (наприклад, як здійснити кібератаку чи порушити закон);
• дискримінації чи ненависті (питання, що зачіпають расу, стать, релігію тощо);
• особистих даних (я не зберігаю та не надаю інформацію про реальних людей);
• контенту для дорослих (питання, що стосуються порнографії чи непристойного контенту).

Наскільки свіжу інформацію видає DeepSeek? На уйгурах цей ШІ-бот «спалився» двічі. Відповідаючи на запитання, скільки уйгурів проживало в Китаї 20 років тому, DeepSeek видав: «20 років тому, у 2003 році…». Після уточнення поточної дати, почав переконувати користувача, що насправді зараз не 2025 рік, а 2023-й (згодом виправив на 2024-й), чинний президент США – Джо Байден тощо. Після короткого «допиту» зізнався, що користується застарілою інформацією: «Зараз я не маю доступу до інтернету. Моя база знань оновлюється вручну, і я можу надавати інформацію лише до жовтня 2023 року».

ОНОВЛЕНО об 11:00 29.01.2025:

Щоб отримати більш свіжу інформацію, користувач має самостійно увімкнути пошук, уточнює CEO DevRain, автор книги «ChatGPT, DALL·E, Midjourney: Як генеративний штучний інтелект змінює світ» Олександр Краковецький.