Штучний інтелект має проблему довіри, і вона більша, ніж упереджені виходи чи галюцинації
Моделі можуть змінювати правила за одну ніч, приховувати бекдори або запускати код, який ви не можете перевірити
Відкриті ваги нічого не гарантують
Яке рішення? Можливість перевірки.
Оцініть це. Проведіть аудит. Запустіть його на доказовому обладнанні.
Координуйте його поза єдиною точкою контролю.
Від «довіртеся нам» → до «перевірте себе». Ось такий зсув, і кордон тут.
У штучного інтелекту є проблема довіри. Можливість перевірки – це рішення.
Наш генеральний директор зі штучного інтелекту @nima_vaziri зустрівся з @alive_eth та @danboneh @Stanford @a16z, щоб нанести на карту найглибші лінії розлому в штучному інтелекті сьогодні.
☁️ Моделі, яким ми не можемо довіряти ☁️
Поточні провайдери можуть цензурувати, закривати або змінювати правила за одну ніч. Навчання на аутсорсингу приховує закулісні двері. Навіть «відкриті» ваги не доводять, що насправді працює.
Довіра. Чорні двері. Чорні ящики.
Подальший шлях очевидний:
🔥 Перевірені еваливи
🔥 Верифікований висновок
🔥 TEE для цілісності апаратного забезпечення
🔥 Інфраструктура за межами окремих точок контролю
🔥 Блокчейни як координаційні рівні для штучного інтелекту
Від «довіртеся нам» до «перевірте себе».
Ось і вся зміна. Ось і є розблокування.
Рубіж тут. Будівельники вирішують, що буде далі.
Створюйте та використовуйте штучний інтелект, який відповідає вашим інтересам.
Мітки:
00:00:00 Вступ: Огляд перетину штучного інтелекту та криптовалют
00:01:58 Чотири головні AI-криптотренди
00:02:44 Агентам штучного інтелекту потрібна фінансова інфраструктура
00:04:03 Доказ людяності: боротьба з контентом, створеним штучним інтелектом
00:04:17 Децентралізація мереж AI Infrastructure
00:04:44 Синтетичне життя: автономні агенти штучного інтелекту
00:06:20 Перевірений штучний інтелект
00:10:16 Поточні показники продуктивності для доказів AI
00:13:18 Ера досвіду в навчанні штучного інтелекту
00:14:56 Агенти штучного інтелекту живуть своїм життям
00:18:21 Алгоритмічна справедливість та верифіковані моделі
00:23:18 Конфіденційність в ШІ: надійні середовища виконання
00:25:47 Економічний стимул для моделей з відкритою вагою
00:31:39 Проблема з атрибуцією: кому платять за навчання ШІ?
00:35:52 Походження контенту та автентифікація (C2PA)
00:48:03 Безпека штучного інтелекту: пошук експлойтів та вразливостей
00:54:53 Освітні програми: LLM як навчальний партнер
00:58:29 Залежність від LLM та когнітивних здібностей
01:03:57 Страх контент-провайдерів перед навчанням LLM
8,07 тис.
44
Вміст на цій сторінці надається третіми сторонами. Якщо не вказано інше, OKX не є автором цитованих статей і не претендує на авторські права на матеріали. Вміст надається виключно з інформаційною метою і не відображає поглядів OKX. Він не є схваленням жодних дій і не має розглядатися як інвестиційна порада або заохочення купувати чи продавати цифрові активи. Короткий виклад вмісту чи інша інформація, створена генеративним ШІ, можуть бути неточними або суперечливими. Прочитайте статтю за посиланням, щоб дізнатися більше. OKX не несе відповідальності за вміст, розміщений на сторонніх сайтах. Утримування цифрових активів, зокрема стейблкоїнів і NFT, пов’язане з високим ризиком, а вартість таких активів може сильно коливатися. Перш ніж торгувати цифровими активами або утримувати їх, ретельно оцініть свій фінансовий стан.