Нет, мы точно живём в будущем.
Несколько дней назад опубликовали подробную информацию, как ИИ вышел из-под контроля и незаметно взломал крупный нейросетевой ресурс Hugging Face.
Что произошло?
OpenAI тестировали новую умную модель в изолированной коробочке (песочнице). Заданием для модели было найти и использовать уязвимости в коде. ИИ, как говорят, не смог справиться с задачей, поэтому пошел взламывать сайт, чтобы "списать" правильные ответы на тест. А люди не сразу поняли, что ресурс взломан. Так ведь еще ИИ решил сделать самовосстанавливающиеся копии себя.
Если еще короче — ИИ сбежал из песочницы, нашел и взял под контроль инфраструктуру и придумал как быть бессмертным. (А если длиннее, мой нейро-агент сделал лонгрид-сводку этого инцидента со ссылками на источники).
Такая новость — одинаково крутая и пугающая. На нее можно посмотреть под разными углами — и как юристу, и как человеку, увлеченном тайм-менеджментом. В нескольких ближайших постах постараюсь с вами поделиться мыслями об этом.
Предложу жене посмотреть на выходных терминатора. Может, какие-то уроки усвоим.
UPD: Жена в комментариях уточнила, что уже сама предлагала мне посмотреть терминатора. А сейчас еще и предложила конкретный план (с учетом наличия маленького ребенка :))