Экономим до 80% на ИИ —появился умный, опенсорсный маршрутизатор между моделями.

Экономим до 80% на ИИ —появился умный, опенсорсный маршрутизатор между моделями.

ClawRouter сам выбирает, какой моделью обрабатывать запрос, чтобы не переплачивать. Как это работает: 🟢 Оценивается запрос по разным признакам: сложность, код, длина — всего 14 пунктов. 🟢 За доли миллисекунд запрос отправляется в самую дешёвую подходящую модель — на выбор их, кстати, 40+ штук. 🟢 Всё решение принимается локально.

В итоге простые задачи уходят в дешёвые модели, сложные — в более мощные. Именно за счёт этого авторы и заявляют, что получится снизить расходы до 78%.

Экономия должна быть экономикой. 🤑

@xor_journal