Дилема Web3 AI та майбутні напрямки

Нещодавно акції Nvidia знову досягли рекордного рівня, а прогрес мультидоменних моделей ще більше закріпив технологічний бар'єр Web2 AI. Від семантичної уніфікації до візуального розуміння, від високовимірних вбудувань до злиття ознак, складні моделі інтегрують різні способи вираження з приголомшливою швидкістю, створюючи все більш закриту AI територію. Ринок акцій США також продемонстрував своїм фактичним діями оптимізм щодо сфери AI, як у криптовалютному світі, так і в акціях AI спостерігається хвиля невеликого бичачого тренду.

Однак ця хвиля, здається, не має великого зв'язку з криптовалютною сферою. Те, що ми спостерігаємо в спробах Web3 AI, особливо у розвитку напрямку агентів за останні кілька місяців, має певні відхилення: спроба зібрати багатомодульну систему в стилі Web2 за допомогою децентралізованої структури насправді є подвійним невідповідністю технологій і мислення. У той час, коли модульна зв'язаність є надзвичайно сильною, розподіл ознак є дуже нестабільним, а потреби в обчислювальних потужностях стають все більш централізованими, багатомодульність у Web3 важко закріпитися.

Майбутнє Web3 AI не полягає у простому наслідуванні, а в стратегічному ухиленні. Від семантичного вирівнювання у високорозмірному просторі до інформаційних вузьких місць у механізмах уваги, а також до вирівнювання ознак у гетерогенних обчисленнях — це все напрямки, які потрібно ретельно розглянути.

Дилема семантичного вирівнювання

Протокол Web3 AI або Agent важко реалізувати у високорозмірному вбудованому просторі. Більшість агентів Web3 просто упаковують готові API в окремі модулі, бракує єдиного центрального вбудованого простору та міжмодульного механізму уваги, що призводить до того, що інформація не може взаємодіяти між модулями з різних кутів і на різних рівнях, що змушує її рухатися лише лінійно, демонструючи єдину функцію і не здатною сформувати загальну замкнену оптимізацію.

Вимога до Web3 AI реалізувати високорозмірний простір, фактично є вимогою до агентського протоколу самостійно розробити всі необхідні API інтерфейси, що суперечить його модульному призначенню. Високорозмірна архітектура вимагає єдиного навчання або кооперативної оптимізації «від кінця до кінця»: від захоплення сигналів до розрахунку стратегій, а також до виконання та управління ризиками, всі етапи ділять одну й ту ж систему представлень і функцій втрат.

Обмеження механізму уваги

Модульна архітектура Web3 AI ускладнює реалізацію єдиного планування уваги. Механізм уваги залежить від єдиного простору Query-Key-Value, де всі вхідні ознаки повинні бути відображені в один високовимірний векторний простір, щоб можна було розрахувати динамічні ваги за допомогою скалярного добутку. Однак незалежні API повертають дані різного формату та розподілу, без єдиного шару вбудовування, що робить неможливим формування інтерактивного набору Q/K/V.

Увага з боку багаторівневого підходу дозволяє одночасно та паралельно акцентувати увагу на різних джерелах інформації на одному рівні, а потім об’єднувати результати; тоді як незалежні API часто є лінійними викликами, де вихід на кожному етапі є просто вхідним для наступного модуля, що позбавляє їх здатності до паралельного та динамічного вагового розподілу.

Поверхневе злиття ознак

Web3 AI наразі перебуває на найпростіший стадії з'єднання характеристик. Web2 AI схильний до навчання «від кінця до кінця», обробляючи мультимодальні характеристики одночасно в одному високорозмірному просторі, спільно оптимізуючи через шари уваги та злиття разом із шарами завдань нижнього рівня. Натомість Web3 AI більше спирається на метод з'єднання дискретних модулів, упаковуючи різні API в незалежні агенти, а потім просто зшиваючи виведені ними мітки, значення або порогові сповіщення, здійснюючи комплексне рішення через основну логіку або вручну.

Бар'єри та можливості в AI-індустрії

Багатомодальна система Web2 AI стала надзвичайно великим інженерним проектом, що висуває дуже високі вимоги до фінансів, даних, обчислювальної потужності, талантів і навіть організаційної співпраці, тому створює дуже сильний галузевий бар'єр. Однак, формування цього бар'єра також приносить потенційні можливості для Web3 AI.

Ядро Web3 AI полягає в децентралізації, а його еволюційний шлях проявляється в високій паралельності, низькій зв'язаності та сумісності гетерогенних обчислювальних потужностей. Це робить Web3 AI більш вигідним у сценах, таких як крайові обчислення, підходить для легких структур, простих для паралелізації та заохочувальних завдань, таких як налаштування LoRA, післятренувальні завдання з поведінкової відповідності, навчання та маркування даних на основі краудсорсингу, навчання малих базових моделей, а також спільне навчання крайових пристроїв.

Стратегія майбутнього розвитку

Web3 AI повинні застосовувати тактику "села оточують місто":

1. Почати з краю, спочатку закріпитися на малих ринках з низькою конкуренцією та малою присутністю на ринку, поступово накопичуючи ресурси та досвід.

2. Поєднання точок і площин, круговий прогрес, безперервна ітерація та оновлення продукту в достатньо малих випадках використання.

3. Залишайтеся гнучкими, швидко налаштовуюйтесь під різні ситуації, здатні легко переходити між різними малими ринками та максимально швидко наближатися до цільової сфери.

4. Уникати надмірної залежності від інфраструктури, підтримувати легкість архітектури мережі для підвищення адаптивності та життєздатності.

Лише коли переваги Web2 AI зникнуть, залишені ним проблеми стануть справжньою можливістю для Web3 AI. До цього моменту Web3 AI потрібно обережно вибирати напрям розвитку, уникати пасток створення власних проблем і зосередитися на накопиченні сили в крайових ситуаціях, щоб підготуватися до майбутніх проривів.