Бездушная машина заставляет подумать, а кто должен отвечать за инцидент, подобный взлому Hugging Face.
И что вообще здесь из себя представляет ИИ — источник повышенной опасности, "опасную собаку", инструмент?
А если инструмент — то вред наступил из-за некачественного инструмента (у молотка сломалась ручка, и он вылетел в голову проходящему человеку) или из-за неправильного его применения (молотком ломали пальцы, а не забивали гвозди)?
И всё-таки, кто должен отвечать? Варианты:
1. Сам ИИ.
Отметаем сразу, т.к. ИИ не субъект права (пока).
2. OpenAI как оператор ИИ.
Как владелец "источника повышенной опасности" или неодушевленного аналога "опасной собаки". Ты можешь и не приказывать своему питбулю кусать прохожего. Но это не означает, что не понесешь ответственность, если он всё-таки покусает. Тогда еще острее стоит вопрос — а мы вообще можем контролировать ИИ?
Или ИИ в данном случае был дефектным молотком со сломанной ручкой?
3. Разработчики модели.
Сомнительно. Такие разработчики — как ученые, которые разрабатывают какие-нибудь опасные химические вещества в лабораториях. Сам факт создания опасной технологии не означает ответственность ее создателя.
4. "Настройщики" модели.
Возможно, именно эти настройщики допустили возможность неконтролируемого самостоятельного взлома со стороны ИИ — оставили калитку открытой и не посадили ИИ на цепь.
5. А может быть вообще ответственность несут те, кто не устранил уязвимости, через которые ИИ взломал ресурс?
Это или сам Hugging Face, или правообладатели отдельных частей ПО, на котором работал Hugging Face или песочница OpenAI. Правда, если дверь не заперта, это не означает допуск в нее всех желающих 🙂
У меня пока вопросов больше, чем ответов 🙂
Господа юристы и не-юристы, давайте поупражняемся, поразминаем мозги:
— что такое ИИ?
— кто должен нести ответственность?