Багато компаній зараз вихваляються тим, наскільки вони «штучні».
А як же реальність?
Система обслуговування клієнтів компанії друга – типовий випадок перевороту: вкладаються мільйони доларів, а в результаті один GPU може підтримувати лише 3 моделі, а на перемикання потрібно 5 хвилин. Цей досвід гірший, ніж знайти людське обслуговування клієнтів.
Це не поодинокий випадок, а доля переважної більшості «традиційних AI-архітектур».
Лише коли я побачив рішення @OpenLedgerHQ, я зрозумів, що проблема зовсім не в штучному інтелекті, а в базовому методі розгортання.
OpenLedger повністю "переписав" розгортання ШІ:
Так само просто, як зміна чохла для телефону, один графічний процесор може запускати тисячі користувацьких моделей, споживання пам'яті становить лише 1/4 від традиційного рішення, а перемикання моделей відбувається навіть швидше, ніж мить ока (<100 мс). З тих пір ШІ перестав бути патентом великих виробників, а став інструментом, освоїти який зможе кожен.
Три ключові прориви:
Революція ефективності ресурсів: великі моделі на 40 ГБ тепер можуть працювати на 8-12 ГБ, що в 4 рази швидше. Витратьте гроші економ-класу і відчуйте гострі відчуття першого класу.
Можливості персоналізації: Будь-хто може навчити адаптер LoRA, так само, як вводити ДНК у штучний інтелект. Юридичні, медичні та програмні сценарії можуть налаштувати ексклюзивних помічників за низькою вартістю.
Деякі юристи навіть використовують його для зберігання в мережі, і кожну пропозицію можна простежити до джерела даних.
Прориви в галузі периферійних обчислень: незабаром підтримка таких пристроїв, як Jetson Nano, означає, що Raspberry Pi може поміститися в суперкомп'ютер у вашій кишені.
Більше того, OpenLedger забрав «силу» штучного інтелекту у великих компаній.
Коли алгоритм прозорий, як скло, розробники та користувачі є справжніми контролерами.
Озираючись назад, можна сказати, що ті, хто все ще застряг у традиційній архітектурі, схожі на людей епохи комутованого з'єднання, які уявляють собі відео 4K.
Технологічна революція завжди починається з очищення пізнання нового покоління.
Те, що написав OpenLedger, може бути операційною системою для нової ери штучного інтелекту.
#OpenledgerHQ #Snaptopus
@cookiedotfun
@cookiedotfuncn
#Cookie #CookieSnaps
Показати оригінал
12,24 тис.
57
Вміст на цій сторінці надається третіми сторонами. Якщо не вказано інше, OKX не є автором цитованих статей і не претендує на авторські права на матеріали. Вміст надається виключно з інформаційною метою і не відображає поглядів OKX. Він не є схваленням жодних дій і не має розглядатися як інвестиційна порада або заохочення купувати чи продавати цифрові активи. Короткий виклад вмісту чи інша інформація, створена генеративним ШІ, можуть бути неточними або суперечливими. Прочитайте статтю за посиланням, щоб дізнатися більше. OKX не несе відповідальності за вміст, розміщений на сторонніх сайтах. Утримування цифрових активів, зокрема стейблкоїнів і NFT, пов’язане з високим ризиком, а вартість таких активів може сильно коливатися. Перш ніж торгувати цифровими активами або утримувати їх, ретельно оцініть свій фінансовий стан.