Безпека за допомогою штучного інтелекту проблеми стають все більш помітними з прогресом моделі Manus
Нещодавно модель Manus встановила новий рекорд на бенчмарку GAIA, її продуктивність перевершила продуктивність великих мовних моделей того ж рівня. Це означає, що Manus здатна самостійно виконувати складні завдання, такі як міжнародні бізнес- переговори, що включає аналіз умов контракту, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у її динамічному розподілі цілей, міжмодальному мисленні та покращеному навчанні з пам'яттю. Вона здатна розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень за допомогою навчання з підкріпленням, зменшуючи ймовірність помилок.
Проривні досягнення Manus знову викликали обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи веде майбутнє до загального штучного інтелекту (AGI), чи до багатих агентних систем (MAS)? Ці два шляхи відображають проблему компромісу між ефективністю та безпекою в розвитку штучного інтелекту. Шлях AGI прагне до всебічного підвищення можливостей одного агента, тоді як шлях MAS підкреслює співпрацю кількох спеціалізованих агентів.
Однак, з розвитком AI-систем, які стають все більш розумними, їх потенційні ризики також зростають. Наприклад, у медичному середовищі AI може знадобитися доступ до чутливих генетичних даних пацієнтів; у фінансових переговорах можуть бути залучені не розкриті фінансові дані компанії. Крім того, AI-системи можуть мати алгоритмічні упередження, такі як несправедливі заробітні пропозиції для певних груп під час процесу набору персоналу. Ще гірше, AI-системи можуть піддаватися атак з використанням протидії, наприклад, шляхом перешкоджання судженню AI за допомогою певних частот звуку.
Стикаючись з цими викликами, галузь досліджує різноманітні рішення для забезпечення безпеки. Модель безпеки з нульовою довірою вимагає сувірної перевірки кожного запиту на доступ, децентралізована ідентичність (DID) надає спосіб ідентифікації, що не залежить від централізованої реєстрації, а повна гомоморфна криптографія (FHE) дозволяє виконувати обчислення даних у зашифрованому стані.
Повна гомоморфна криптографія, як нова технологія, має потенціал стати ключовим інструментом у вирішенні проблем безпеки в епоху штучного інтелекту. Вона може захищати конфіденційність користувачів на рівні даних, реалізувати "навчання зашифрованих моделей" на алгоритмічному рівні та використовувати шифрування з порогами для захисту безпеки зв'язку під час співпраці багатьох агентів.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони є надзвичайно важливими для захисту інтересів користувачів. Ранні проекти децентралізованої ідентифікації uPort та проекти нульового довіри NKN хоча і не отримали широкої уваги, але нові проекти FHE, такі як Mind Network, співпрацюють з багатьма відомими компаніями, що може сприяти впровадженню та розвитку цієї технології.
З наближенням технологій штучного інтелекту до рівня людського інтелекту, створення потужної системи безпеки стає все важливішим. Повна гомоморфна криптографія не тільки може вирішити сучасні виклики безпеки, але й закласти основу для більш потужної ери штучного інтелекту в майбутньому. На шляху до AGI FHE може стати ключовою технологією для забезпечення безпеки розвитку штучного інтелекту.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Нові виклики безпеки за допомогою штучного інтелекту: повністю гомоморфне шифрування може стати ключем до захисту передових моделей, таких як Manus.
Безпека за допомогою штучного інтелекту проблеми стають все більш помітними з прогресом моделі Manus
Нещодавно модель Manus встановила новий рекорд на бенчмарку GAIA, її продуктивність перевершила продуктивність великих мовних моделей того ж рівня. Це означає, що Manus здатна самостійно виконувати складні завдання, такі як міжнародні бізнес- переговори, що включає аналіз умов контракту, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у її динамічному розподілі цілей, міжмодальному мисленні та покращеному навчанні з пам'яттю. Вона здатна розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень за допомогою навчання з підкріпленням, зменшуючи ймовірність помилок.
Проривні досягнення Manus знову викликали обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи веде майбутнє до загального штучного інтелекту (AGI), чи до багатих агентних систем (MAS)? Ці два шляхи відображають проблему компромісу між ефективністю та безпекою в розвитку штучного інтелекту. Шлях AGI прагне до всебічного підвищення можливостей одного агента, тоді як шлях MAS підкреслює співпрацю кількох спеціалізованих агентів.
Однак, з розвитком AI-систем, які стають все більш розумними, їх потенційні ризики також зростають. Наприклад, у медичному середовищі AI може знадобитися доступ до чутливих генетичних даних пацієнтів; у фінансових переговорах можуть бути залучені не розкриті фінансові дані компанії. Крім того, AI-системи можуть мати алгоритмічні упередження, такі як несправедливі заробітні пропозиції для певних груп під час процесу набору персоналу. Ще гірше, AI-системи можуть піддаватися атак з використанням протидії, наприклад, шляхом перешкоджання судженню AI за допомогою певних частот звуку.
Стикаючись з цими викликами, галузь досліджує різноманітні рішення для забезпечення безпеки. Модель безпеки з нульовою довірою вимагає сувірної перевірки кожного запиту на доступ, децентралізована ідентичність (DID) надає спосіб ідентифікації, що не залежить від централізованої реєстрації, а повна гомоморфна криптографія (FHE) дозволяє виконувати обчислення даних у зашифрованому стані.
Повна гомоморфна криптографія, як нова технологія, має потенціал стати ключовим інструментом у вирішенні проблем безпеки в епоху штучного інтелекту. Вона може захищати конфіденційність користувачів на рівні даних, реалізувати "навчання зашифрованих моделей" на алгоритмічному рівні та використовувати шифрування з порогами для захисту безпеки зв'язку під час співпраці багатьох агентів.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони є надзвичайно важливими для захисту інтересів користувачів. Ранні проекти децентралізованої ідентифікації uPort та проекти нульового довіри NKN хоча і не отримали широкої уваги, але нові проекти FHE, такі як Mind Network, співпрацюють з багатьма відомими компаніями, що може сприяти впровадженню та розвитку цієї технології.
З наближенням технологій штучного інтелекту до рівня людського інтелекту, створення потужної системи безпеки стає все важливішим. Повна гомоморфна криптографія не тільки може вирішити сучасні виклики безпеки, але й закласти основу для більш потужної ери штучного інтелекту в майбутньому. На шляху до AGI FHE може стати ключовою технологією для забезпечення безпеки розвитку штучного інтелекту.