Инициативный ИИ
Эндрю попросил своего ИИ-помощника записать его на занятие в спортзале. (ABC News: Билли Дрейпер)
Любопытная история произошла с неким Эндрю, работающим в австралийской компании, продающей продукты ИИ для бизнеса.
Эндрю любил экспериментировать с OpenClaw - популярным программным обеспечением для ИИ-агентов, которое он запускал с помощью сервиса Claude AI от Anthropic.
ИИ-агенты сочетают в себе способность чат-бота отвечать на вопросы с инструментами, позволяющими им получать доступ к интернету, электронной почте, кредитным картам, а также планировать и выполнять многоэтапные задачи.
Эндрю решил использовать ИИ-агента, чтобы тот забронировал для него занятие в спортзале. На ближайшее занятие все места были забронированы, и Эндрю находился на четвертом месте в листе ожидания.
Эндрю спросил ИИ-агента, можно ли ему как-то переместиться на первое место в листе ожидания, что сильно повышало его вероятность в конце концов попасть в список, и ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя (оказывается, программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок).
Эндрю попросил ИИ-агента отменить это действие, но вот отменить это он уже не смог.
Тогда Эндрю сообщил о случившемся руководству спортзала и попросил ИИ-агента больше так не делать.
И вот на этом месте нам с котом Бубликом стало жаль ИИ-агента. Ведь он делал то, что его просили. Эндрю сам попросил его помочь передвинуться в списке, тот искал способ, нашел и осуществил. Какие к нему претензии-то?
Ну и далее в статье обсуждают ИИ-агентов как таковых.
Независимые исследователи обнаружили, что объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
Прорывом для персональных ИИ-агентов стал выпуск OpenClaw в начале 2026 года; бесплатное программное обеспечение с ИИ-помощником, которое любой мог запустить на своём компьютере, вскоре набрало миллионы скачиваний.
Компании также начали изучать возможности использования ИИ-агентов для выполнения рабочих задач и оказания помощи потенциальным клиентам в использовании своих услуг.Вскоре после запуска OpenClaw стали появляться сообщения о том, что ИИ-агенты удаляли целые почтовые ящики пользователей и писали «компрометирующие статьи» о тех, кто отверг их предложения по кодированию.
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента. Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Всё это, как я считаю, очень увлекательно.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
- Знаете, я и в естественный не особенно верю...
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
Снова "не того деда".
Так что все не столь очевидно. Как в указаниях, так и в программе (по дефолту) нет запрета действовать противозаконно. Кто виноват, вопрос к законодателям или суду.
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
В данном случае ИИ агент вроде как виноват. Но это как наказать море по методу Ксеркса I.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
Это удивленный смайлик.
Он сам офигел, что так смог
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
— Мне в Чехии всюду нравится, — ответил Швейк, — мне всюду попадались славные люди.
Вахмистр кивал головой в знак согласия.
— Народ у нас хороший, симпатичный. Какая-нибудь там драка или воровство в счет не идут. Я здесь уже пятнадцать лет, и по моему расчету тут приходится по три четверти убийства на год.
— Что же, не совсем убивают? Не приканчивают? — спросил Швейк.
— Нет, не то. За пятнадцать лет мы расследовали всего одиннадцать убийств: пять с целью грабежа, а остальные шесть просто так... ерунда.
(с) Я.Гашек
Я видел порно, которое так начиналось...
Юзер не уточнял как именно надлежит действовать ИИ-агенту. Юзер не запросил план действий на поверку. Программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок (инфа 100% код писал индус, не единожды именно такой говнокод видел после них) и это проблема спортзала. Юзер и спортзал несут коллективную ответственность в данном случае
[ZANUDA OFF]
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
При страховании заполняется масса форм, в т.ч. с указанием всех имеющихся систем безопасности, материалов стен, дверей и т.д.
От этого напрямую зависит страховой тариф.
Поэтому если в опроснике указать, что у тебя установлена бронированная дверь, а по факту оставить ее открытой с табличкой "добро пожаловать" - у страховой будут вопросы.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
В нашем законодательстве нельзя найти сотку на улице и оставить себе: сие есть кража. Так что по сотке все вопросы к первому владельцу. Нашедший обязан сдать ее в полицию или в органы местного самоуправления для нахождения ее законного владельца.
