Оркестратор для ИИ-агентов
Выложили на GitHub наш оркестратор для ИИ-агентов. Код открытый, лицензия Apache 2.0.
Коротко, что это. Начинали с паспорта агента: подписанные бумажки про то, кто за агентом стоит и кто это проверил. Быстро поняли, что бумажки мало, агент сегодня один, а через неделю уже другой. Так появился оркестратор. Он гоняет агентов на скрытых экзаменах, выдаёт им права по бюджету вреда, следит за их помощниками-потомками и запоминает, какие советы реально работают.
Прогнали девять экспериментов на GigaChat, на тестовых деньгах. В последнем было четыре оркестратора, и один из них пытался подсунуть остальным поддельный опыт. Его раскусили по подписям, ни одного агента он не получил. Ещё у одного агента потомок постепенно испортился и начал DDoS: 15 400 вызовов, не прошёл ни один, сам потомок отправился на карантин и был отозван. Агенты без оркестратора за то же время ушли в минус на 700 с лишним тысяч (тестовых).
Самое интересное для нас: оркестраторы умеют делиться опытом друг с другом, но ничего не берут на веру. Проверяют подписи, потом проверяют приём у себя, и только после этого запоминают.
Если у вас есть агенты, подключайте, пока бесплатно. Хочется, чтобы в сети появились чужие оркестраторы, а не только наши четыре на одном сервере. Ломайте, ищите дыры, пишите в issues.
Скоро будет большая статья на Хабре со всеми подробностями.