Софтуерът на австрийския стартъп свива AI моделите с до 80%, позволявайки на компаниите да използват повече AI с по-малко хардуер.
Ora Computing, стартъп специализиран в оптимизирането и компресирането на AI фундаментални модели, обяви днес приключването на seed рунд на стойност 3,5 млн. €, воден от Constructor Capital и Greencode Ventures, с продължаваща подкрепа от основополагащия инвеститор XISTA Science Ventures, който помогна за изграждането и пускането на компанията на пазара.
AI инференцът – процесът на реално изпълнение на AI модел за генериране на резултати – се превърна в значителен и бързо нарастващ разход за всяка компания, която внедрява AI в мащаб. Големите внедрявания вече могат да струват десетки милиони евро на месец само за изчислителна мощ, а проблемът се задълбочава с нарастването на размера на моделите. За компании, които искат да използват AI локално на устройства като автомобили или промишлено оборудване, моделите често са просто твърде големи.
Софтуерът на Ora компресира тези модели – намалява размера им с до 80% и ги прави до четири пъти по-бързи – при загуба на точност между 0 и 5%. Тъй като компресираните модели изискват значително по-малко изчислителна мощ, ефективността се превежда директно в по-ниска консумация на енергия и намалени въглеродни емисии: при 1% пазарно проникване, Ora изчислява, че технологията й може да елиминира над 50 000 тона CO2 годишно.
„Основахме Ora Computing, за да оспорим предположението, че масивен мащаб е необходим за постигане на полезна интелигентност. Вярваме, че следващата вълна на AI adoption ще бъде движена от по-компактни модели, които са високоефективни и оптимизирани за специфични случаи на употреба, вместо от големи общи cloud модели. Ora изгражда софтуерния и алгоритмичния стек, който позволява този преход“, казва Стефан Зак, главен изпълнителен директор и съосновател на Ora Computing.
За разлика от съществуващите инструменти за компресия, подходът на Ora работи върху различни типове хардуер и се интегрира директно в стандартни inference frameworks – без персонализирани софтуерни слоеве, без капиталоемко преобучаване, без промени в съществуващата инфраструктура. Докато конкурентните подходи налагат бинарен избор между нива на компресия, алгоритъмът на Ora непрекъснато картографира пълния компромис между размера на модела и точността, позволявайки на компаниите да оптимизират за своя специфичен хардуер и разходни ограничения. Ora е доказала това с модел от 70 милиарда параметъра, компресиран за часове при изчислителни разходи под 1 000 USD, в сравнение с индустриални стойности от стотици хиляди долари за сравнима работа.
Ora е основана от Стефан Зак и Раймел Медина, двамата изследователи в областта на квантовите изчисления от групата на Сербин в Института за наука и технологии Австрия (ISTA), една от водещите изследователски институции в Европа. Компанията излезе от stealth режим в края на 2025 г. и оттогава е валидирала своето решение за компресия с играчи в секторите Automotive и Edge Silicon. Новото финансиране ще бъде използвано за разширяване на екипа, разширяване на възможностите за компресия към най-големите frontier модели и пускане на търговски продукт за доставчици на cloud inference и компании, внедряващи AI на ръба.
„Енергийният апетит на AI расте по-бързо, отколкото светът може да изгради инфраструктурата да го задоволи. Един ключов подход е да се направи самият AI по-ефективен, и точно това прави Ora. Радикалното компресиране на модели без жертване на точността прави огромна разлика за техните клиенти“, казва Терхи Вапола, основател и управляващ партньор на Greencode Ventures.
„Ерата на brute-force AI достига физическите си граници: хиперскейлърите отварят отново ядрени реактори, водещите AI лаборатории изгарят милиарди за изчислителна мощ, а reasoning моделите умножават разходите за inference всяко тримесечие. Единственият устойчив отговор е да се направи frontier AI драматично по-евтин за използване. Точно това прави Ora Computing – компресира frontier LLM-и, така че да работят навсякъде: в облака, в автомобила, в джоба ви. Затова Constructor Capital е горд да co-води техния seed рунд от 3,5 млн. €“, казва Валентино Ядришко, старши асоцииран партньор на Constructor Capital.
