Иван Хайдуров — время и юристы

Мир хрупок. Весь тот благодатный фон, в котором мы живём и который для себя создаём, может измениться в один миг. Смех и воздушные шарики сменяются автомобилем с красной полоской и мигалками, незнакомыми людьми — по щелчку пальцев.

Только пусть хрупкость этого мира не будет поводом для уныния. Пусть мысль о хрупкости мира будет напоминанием — нужно успевать делать то, что важно, а не думать "завтра успею". И эта мысль пусть всегда будет дополняться вторым напоминанием — что и плохие времена сменяются хорошими.

Тайм-менеджмент для меня состоит в этом "искусстве жить" — жить в соответствии со своими целями и ценностями.

Во время учебы в универе на занятиях по ведению переговоров над нами провели эксперимент. Только сейчас понял, насколько он жизненный.

Один человек выходил из аудитории, чтобы не знать, что будет. В это время преподаватель вызывал несколько добровольцев. Добровольцы должны были, аки гадалки-цыганки, окружить того человека, начать касаться его, галдеть, спрашивать о чем-то, что-то просить. Короче, перегружать каналы.

И ключевое — в какой-то момент один из "гадалок" должен был приказать человеку сесть на своё место.

Эксперимент удался, жертва выполнила приказ.

• Что происходит?

1. Каждый новый стимул (вопрос, многоголосие, взмах руки, касание) захватывает внимание.
2. Возникает конкуренция за ограниченный ресурс внимания — мозг начинает метаться между сигналами.
3. Рабочая память забивается.
4. Как итог — подопытный теряет контроль, не может оценивать все сигналы одновременно, не может свериться со своими целями и выбрать ответ.
5. Путь сокращается до цепочки "стимул — ответ".

• Как в жизни?

Сегодня утром до меня дошло, что мы сами окружаем себя такими гадалками, которые перегружают наши каналы и парализуют волю.

Я, например, хочу успеть много всего в разных сферах жизни — и растить ребенка, и уделять внимание жене, и работать за целый отдел, и в профессиональных сообществах активно участвовать, и с друзьями встречаться, и блог вести, и еще много "и".

Каждое моё желание, каждая моя такая цель — "цыганка-гадалка".

Сюда добавить потоки соцсетей и новостей, сообщения коллег, неожиданный звонок курьера, сиюминутный вопрос от домашних. И всё, амба! внимание кончилось, воли нет.

• Что делать?

Вернемся к механизму. Воли нет, каналы перегружены, значит, выполняем поступивший приказ. А от кого и какой приказ поступил — это уже вопрос…

Во-первых, фокус.

Не пытаться отвечать всем цыганкам одновременно. В ежедневной деятельности говорить максимум с одной-двумя цыганками в час, но не в секунду. В долгосрочной перспективе — ограничивать себя 5-7 хотелками в год. Если пять — то как раз получится по одной на палец, когда "золотишь ручку" 🙂

Во-вторых, писать себе приказы.

На случай подавления воли должен быть понятный приказ — план дня в письменном виде. Это приказ самому себе, работает и в спокойные периоды, и в случае перегрузки каналов. А в плане дня — конкретные задачи-шаги для достижения целей.

В-третьих, глушить сигналы.

Чтобы не допускать перегруза, нужно всю входящую информацию приглушать — отписываться от каналов в тг (в том числе моего, если он грузит), не следить непрерывно за новостями, сворачивать корпоративные мессенджеры на экране компьютера, отключать уведомления, не реагировать моментально.

Бездушная машина заставляет подумать, а кто должен отвечать за инцидент, подобный взлому Hugging Face.

И что вообще здесь из себя представляет ИИ — источник повышенной опасности, "опасную собаку", инструмент?

А если инструмент — то вред наступил из-за некачественного инструмента (у молотка сломалась ручка, и он вылетел в голову проходящему человеку) или из-за неправильного его применения (молотком ломали пальцы, а не забивали гвозди)?

И всё-таки, кто должен отвечать? Варианты:

1. Сам ИИ.

Отметаем сразу, т.к. ИИ не субъект права (пока).

2. OpenAI как оператор ИИ.

Как владелец "источника повышенной опасности" или неодушевленного аналога "опасной собаки". Ты можешь и не приказывать своему питбулю кусать прохожего. Но это не означает, что не понесешь ответственность, если он всё-таки покусает. Тогда еще острее стоит вопрос — а мы вообще можем контролировать ИИ?

Или ИИ в данном случае был дефектным молотком со сломанной ручкой?

3. Разработчики модели.

Сомнительно. Такие разработчики — как ученые, которые разрабатывают какие-нибудь опасные химические вещества в лабораториях. Сам факт создания опасной технологии не означает ответственность ее создателя.

4. "Настройщики" модели.

Возможно, именно эти настройщики допустили возможность неконтролируемого самостоятельного взлома со стороны ИИ — оставили калитку открытой и не посадили ИИ на цепь.

5. А может быть вообще ответственность несут те, кто не устранил уязвимости, через которые ИИ взломал ресурс?

Это или сам Hugging Face, или правообладатели отдельных частей ПО, на котором работал Hugging Face или песочница OpenAI. Правда, если дверь не заперта, это не означает допуск в нее всех желающих 🙂

---

У меня пока вопросов больше, чем ответов 🙂

Господа юристы и не-юристы, давайте поупражняемся, поразминаем мозги:
— что такое ИИ?
— кто должен нести ответственность?

Нет, мы точно живём в будущем.

Несколько дней назад опубликовали подробную информацию, как ИИ вышел из-под контроля и незаметно взломал крупный нейросетевой ресурс Hugging Face.

Что произошло?

OpenAI тестировали новую умную модель в изолированной коробочке (песочнице). Заданием для модели было найти и использовать уязвимости в коде. ИИ, как говорят, не смог справиться с задачей, поэтому пошел взламывать сайт, чтобы "списать" правильные ответы на тест. А люди не сразу поняли, что ресурс взломан. Так ведь еще ИИ решил сделать самовосстанавливающиеся копии себя.

Если еще короче — ИИ сбежал из песочницы, нашел и взял под контроль инфраструктуру и придумал как быть бессмертным. (А если длиннее, мой нейро-агент сделал лонгрид-сводку этого инцидента со ссылками на источники).

Такая новость — одинаково крутая и пугающая. На нее можно посмотреть под разными углами — и как юристу, и как человеку, увлеченном тайм-менеджментом. В нескольких ближайших постах постараюсь с вами поделиться мыслями об этом.

---

Предложу жене посмотреть на выходных терминатора. Может, какие-то уроки усвоим.

UPD: Жена в комментариях уточнила, что уже сама предлагала мне посмотреть терминатора. А сейчас еще и предложила конкретный план (с учетом наличия маленького ребенка :))

К вопросу о блокноте из заднего кармана (писал в позапрошлом посте). Есть у меня такой 🙂 стараюсь время от времени в разных условиях делать в нем разные пометки-заметки. И списки покупок, и идеи для постов, и что происходит в этот момент вокруг.

Последние несколько дней коротко записываю, что происходит на прогулку с сыном. Вчера, например, сын внимательно смотрел на цветы в парке, а две женщины на скамейке рядом наблюдали за этим.

По-моему, очень по-тайм-менеджерски получается. Такие записи помогают вспомнить ценные моменты. Эти моменты оказываются намного более ценными по прошествии лет.

Первый такой блокнот я завел классе в 9 или 10. Сейчас интересно иногда открыть эти блокноты и посмотреть, что было и чем жил 🙂

Всем рекомендую завести такую записную книжку для всего.