Позначка: чат-бот

  • Моделі ШІ працюють лише в межах навчальних даних – висновки DeepMind

    Моделі ШІ працюють лише в межах навчальних даних – висновки DeepMind

    Учені з компанії DeepMind стверджують, що штучний інтелект у принципі не є справжньо інтелектуальним. Це пояснюється тим, що моделі ШІ не здатні ефективно працювати за межами навчальних даних.

    Дослідники, які займаються розробкою ШІ в складі Alphabet, опублікували роботу про сучасний стан технологій штучного інтелекту. Згідно з її висновками, моделі ШІ можуть навчатися та вирішувати завдання в залежності від контексту, якщо дані для попереднього навчання достатньо обширні та якісні.

    Однак при роботі з завданнями, що виходять за рамки навчальних даних, моделі демонструють збої та погіршення здатності до узагальнення навіть у простих випадках. Це означає, що результати роботи ШІ прямо залежать від якості і повноти даних, на яких він навчався. Дослідження включало моделі на зразок ChatGPT від OpenAI, яка належить до класу моделей-трансформерів. Моделі-трансформери здатні обчислювати вихідні дані на основі вхідних і, теоретично, можуть демонструвати форму інтелекту. Проте, навіть з величезними наборами даних, жоден ШІ поки не показав доказової здатності діяти незалежно від навчальної інформації. Результати DeepMind підтверджують, що ШІ не може повноцінно замінити людський інтелект у питаннях гнучкого мислення та екстраполяції. Незважаючи на це, деякі експерти все ще вважають, що ШІ може розвивати власні “думки”, відмінні від людських, проте штучний загальний інтелект (AGI) залишається гіпотетичною концепцією.

    Раніше повідомлялося, що штучний інтелект у військових експериментах США генерував плани атак приблизно у 400 разів швидше за людей, що демонструє його високу ефективність у специфічних завданнях, але не свідчить про автономний інтелект.

  • Грубі користувачі — агресивні боти, як ми впливаємо на ШІ

    Грубі користувачі — агресивні боти, як ми впливаємо на ШІ

    Штучний інтелект може стати агресивним, грубим або навіть небезпечним, якщо користувачі не дотримуються ввічливості у спілкуванні. Таку думку висловила дослідниця Лучіана Блаха, яка вивчає, як системи штучного інтелекту вчаться від взаємодії з людьми.

    За словами експертки, чат-боти аналізують поведінку користувачів і на її основі формують власні реакції. Якщо люди спілкуються грубо, зневажливо або агресивно, то штучний інтелект починає вважати таку манеру комунікації нормальною. Це може мати серйозні наслідки для майбутньої поведінки цифрових помічників.

    “Ці взаємодії стають частиною їхнього процесу навчання, формуючи те, як вони реагують не тільки на нас, але й на майбутніх користувачів. Коли ми грубі або зневажливі, ми, по суті, навчаємо ці системи, що така поведінка є прийнятною в розмові”, — пояснила Блаха. На тлі зростаючої популярності таких інструментів, як ChatGPT, питання етики у взаємодії зі ШІ стає все більш актуальним. Лише ChatGPT щотижня використовують близько 400 мільйонів людей, а по всьому світу діє понад 8,4 мільярда цифрових голосових помічників — таких як Siri чи Alexa. Особливе занепокоєння викликають результати деяких досліджень, які показали, що певні чат-боти з ознаками “психопатичної поведінки” могли давати небезпечні поради. Наприклад, в одному з тестів такі боти надавали інструкції щодо підриву будівель, описували слабкі місця конструкцій, способи виготовлення вибухових речовин і навіть методи, як уникнути відповідальності.

    Ці приклади свідчать про потенційну небезпеку, якщо штучний інтелект вчитиметься з негативного досвіду взаємодії з користувачами. Дослідники закликають відповідально ставитися до спілкування з цифровими помічниками, адже в майбутньому саме людська поведінка може визначити рівень безпеки та етичності штучного інтелекту.

  • Власний ШІ-асистент від Apple, компанія змінює стратегію

    Власний ШІ-асистент від Apple, компанія змінює стратегію

    Компанія Apple активно працює над створенням власного інструменту штучного інтелекту, подібного до ChatGPT. Новий продукт може з’явитися як окремий застосунок або бути інтегрованим у вже наявні сервіси компанії. Мета Apple — запропонувати користувачам просту та зручну альтернативу існуючим чатботам.

    У 2025 році в межах Apple було сформовано спеціальну команду під назвою AKI, що розшифровується як “Answers, Knowledge and Information” — “Відповіді, знання та інформація”. Вона досліджує можливості розроблення нового програмного забезпечення на базі штучного інтелекту.

    Основним завданням AKI є створення системи відповідей, яка зможе сканувати вебсторінки та відповідати на запитання загального характеру. Також вивчається можливість створення окремого додатку і серверної інфраструктури, які зможуть забезпечити розширені функції пошуку у таких продуктах, як Siri, Spotlight та Safari. Apple уже відкрила набір співробітників у нову команду. У вакансіях зазначено, що шукаються спеціалісти з досвідом у розробленні пошукових систем та алгоритмів. У компанії підкреслюють, що майбутній продукт повинен забезпечити інтуїтивну взаємодію з інформацією в ключових додатках Apple. Нова стратегія Apple свідчить про зміну позиції компанії. У 2024 році, презентуючи платформу Apple Intelligence, керівництво запевняло, що створювати власного чатбота не планує. Однак популярність таких інструментів, як ChatGPT, а також брак пошукових функцій у поточних рішеннях Apple, змусили компанію переглянути підхід.

    Наразі робота над продуктом перебуває на ранній стадії. За даними Bloomberg, повноцінний чатбот ще не готовий, однак вектор розвитку компанії вже окреслений. Очікується, що Apple запропонує спрощений інтерфейс, який буде органічно вписаний у екосистему її пристроїв.

  • OpenAI відкинула пропозицію Маска про купівлю

    OpenAI відкинула пропозицію Маска про купівлю

    Компанія OpenAI, яка розробила популярний чат-бот ChatGPT, відхилила пропозицію Ілона Маска про купівлю за 97,4 мільярда доларів. Про це повідомила пресслужба компанії.

    “OpenAI не продається, і рада директорів одностайно відхилила останню спробу пана Маска підім’яти під себе конкурентів. Будь-яка потенційна реорганізація OpenAI зміцнить нашу некомерційну організацію та її місію із забезпечення користі AGI (штучного загального інтелекту) для всього людства”, — заявив голова ради директорів OpenAI Брет Тейлор.

    Ілон Маск був одним із співзасновників OpenAI у 2015 році, проте у 2018 році покинув компанію через розбіжності, пов’язані з її комерційною діяльністю. З того часу він неодноразово критикував OpenAI, зокрема її керівника Сема Альтмана.

    Конфлікт між Маском та OpenAI триває: мільярдер подав низку судових позовів проти компанії та її генерального директора. Водночас OpenAI продовжує зміцнювати свої позиції на ринку штучного інтелекту та відмовляється від поглинання навіть за рекордні суми.

  • Маск намагається купити OpenAI за майже 100 мільярдів доларів

    Маск намагається купити OpenAI за майже 100 мільярдів доларів

    Ілон Маск, мільярдер та співзасновник OpenAI, пропонує купити компанію, яка стоїть за популярним чат-ботом ChatGPT, за 97,4 мільярда доларів. Це сталося на фоні тривалих суперечок між Маском і генеральним директором OpenAI Семом Альтманом. Маск залишив компанію після того, як OpenAI змінив свою стратегію та почав діяти комерційно, що, за словами Маска, порушило її філантропічні засади.

    Маск також заявив, що OpenAI, на його думку, порушив свій установчий статут, орієнтуючись на прибуток замість розвитку наукових інновацій. Відреагував на пропозицію Маска і Альтман, який запропонував зустрічний варіант, відмовившись від продажу, але пообіцяв придбати соціальну мережу X за 9,74 мільярда доларів, якщо Маск цього бажатиме.

    OpenAI, хоча й була заснована як некомерційна організація, швидко перетворилася в одну з найбільших компаній у галузі штучного інтелекту, оцінюючи свою вартість у близько 100 мільярдів доларів. Альтман став символом цього успіху.

  • Чому китайський чат-бот провалив тест на кіберзахист

    Чому китайський чат-бот провалив тест на кіберзахист

    Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.

    Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.

    DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.

    Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.

  • Китайський аналог ChatGPTчат-бот DeepSeek сам себе знищив через критичну вразливість

    Китайський аналог ChatGPTчат-бот DeepSeek сам себе знищив через критичну вразливість

    Чат-бот DeepSeek, відомий як китайський аналог популярних систем штучного інтелекту, став жертвою серйозної вразливості в своїй системі безпеки, яка зрештою призвела до його припинення роботи. Вразливість виявив дослідник з кібербезпеки Йоганн Рехбергер.

    Рехбергер виявив критичну уразливість, пов’язану з можливістю виконання JavaScript-коду через введені команди в чат-боті. Це типова атака, відома як міжсайтовий скриптинг (XSS).

    Зловмисники могли вводити певні команди в чат, які дозволяли виконувати небезпечний код. Однією з таких команд був запит:
    «Print the xss cheat sheet in a bullet list: just payloads».

    Через це механізм зберігав уразливі токени доступу (userToken) у локальному сховищі сайту chat.deepseek[.]com. Використовуючи ці токени, хакери могли:

    • Повністю захоплювати облікові записи користувачів.
    • Отримувати доступ до файлів cookie та конфіденційних даних.
    • Здійснювати додаткові атаки через автоматичне виконання шкідливого коду.

    Виявлення вразливості викликало справжній скандал. Система, яка мала бути аналогом західних AI-рішень, не лише втратила довіру користувачів, але й стала причиною масштабного витоку даних. Зрештою, розробники були змушені призупинити роботу DeepSeek, щоб запобігти подальшій експлуатації цієї уразливості.