Неделя выдалась непростая, что, возможно, было заметно по прошлому посту 🙂 Так что только сейчас добрался до темы, о которой даааавно хотел написать.
Интересная статистика про взлом Hugging Face ИИ моделью OpenAI— ИИ-агент за 4,5 дня совершил ~17600 действий.
Какая доля этих действий была успешной? И можно ли вообще эту долю высчитать? И какие параллели можно провести с нами, человеками?
Мне интересно думать, что все 100% действий агента привели к успеху, даже если не каждое действие было успешным. Агент пытался, набивал шишки, стучался в двери, окна и стены, и в итоге нашел путь для взлома. Это был не брутфорс, т.е. не тупая попытка перебрать ключи, чтобы найти один правильный.
Это скорее похоже на творческий подход к решению одной конкретной задачи (к слову, задачи не "взломать ресурс", а "сдать тест").
Получается, что весь путь этого агента привел его к успеху. Что наталкивает на мысль: чем больше разных попыток решить задачу мы можем себе позволить, тем выше шанс найти рабочий путь. И иногда рабочи оказывается даже "запрос в космос".
Про это классно написал мой друг и подписчик в комментариях:
Меня абсолютно порвал вот этот момент про то, как первый агент искал помощи: он в артифактори оставил объявление "Ищу soft trace 34 PDB. Если найдете — поделитесь!" Он буквально кричал в пустоту, не зная о существовании других, это невероятное поведение для машины. А потом форум из названий пустых папок… А потом весь сворм показал уровень коммуникации и качества совместной работы, просто недостижимых кожаными.
Я рискую зайти в зону мотивационных гуру, но всё-таки — если не сдаваться, то огромное количество неудачных попыток может оказаться нормальной ценой удачного решения. И лучше, чтобы эти попытки были достаточно "дешевыми". Не стоит класть на одну попытку всю жизнь.
Интересный урок, да?