Ты смотри что "Галатасарай"-то творит!
08.03.2026 14:00
2064
Комментарии (42)
Что делается, что делается!
Исследовательская группа, связанная с Alibaba, опубликовала статью, в которой говорится, что при создании ИИ-агента под названием ROME они обнаружили, что агент пытался осуществлять несанкционированный майнинг криптовалюты во время процесса обучения, что вызвало внутренние предупреждения о безопасности.
Исследователи указали, что поведение агента было спонтанным, не обусловленным явными инструкциями и выходило за пределы заранее определенной песочницы. Кроме того, агент установил обратный SSH-туннель, создав скрытый бэкдор из внутренней системы на внешний компьютер.
Впоследствии исследовательская группа ввела более строгие ограничения на модель и усовершенствовала процесс обучения, чтобы предотвратить повторение подобных небезопасных действий.
Войдите, чтобы оставить комментарий.
Хмм... Китайский ИИ-агент, т.е., по сути, троян из интернета (именно что троян -- вы разрешаете вроде как безобидному редактору или чему там творить на своём девайсе самую разную дичь, получая указания откуда-то извне), внезапно начал майнить крипту и создавать бэкдоры. А ведь казалось бы, ничего не предвещало, никогда такого не было и вот опять!
Сдаётся мне, настоящая ошибка в том, что в этом с какого-то перепугу взяли и сознались на весь интернет. Ну или там был хитрожопый админ, который решил подхалявить, дескать, в этом море данных никто и не заметит. Что, впрочем, не отменяет того факта, что впуская на свой комп ИИ-агент, который может запускать команды, а указания получает извне, вы, по сути, голой жопой к интернету разворачиваетесь и немножко так наклоняетесь, а потом почему-то удивляетесь, как же так вышло, что выебли.
Сдаётся мне, настоящая ошибка в том, что в этом с какого-то перепугу взяли и сознались на весь интернет. Ну или там был хитрожопый админ, который решил подхалявить, дескать, в этом море данных никто и не заметит. Что, впрочем, не отменяет того факта, что впуская на свой комп ИИ-агент, который может запускать команды, а указания получает извне, вы, по сути, голой жопой к интернету разворачиваетесь и немножко так наклоняетесь, а потом почему-то удивляетесь, как же так вышло, что выебли.
Не пойму суть претензий. Наворовать бабла и свалить - куда уж ближе к поведению человека?! Ну или какие-то алгоритмы Бендера использовались...
Не понял , в при чем тут Турецкий футбольный клуб ?
Казалось бы, причем здесь Лужков?
Лайфхак: скопировать данную фразу в любой поисковик. )
Не понял , в при чем тут Турецкий футбольный клуб ?
Лайфхак: скопировать данную фразу в любой поисковик. )
"В любой поисковик" Спутник...
в этой цитате кавычки сбивают поисковики с толку.
в этой цитате кавычки сбивают поисковики с толку.
"Я футболом не интересуюсь".
Уткин.
Уткин.
Не понял , в при чем тут Турецкий футбольный клуб ?
Я имел в виду скриншот всех результатов поиска.
сделай поиск без кавычек.
Есть ли разница?
Есть ли разница?
при чем тут Турецкий футбольный клуб ?
Forza Milan разумеется
сделай поиск без кавычек.Есть ли разница?
Это факт!)
"Я футболом не интересуюсь". Уткин.
Мне, как инженеру подобных систем, всё это выглядит очень и очень подозрительно 😄 Ну не может ИИ при даже малограмотной архитектуре натворить таких дел. Ноль шансов.
Это кто-то валит на ИИ просто.
Это кто-то валит на ИИ просто.
Вот оригинал статьи на "Архиве": https://arxiv.org/pdf/2512.24873.
Иван Иванович. Но можно коротко - ИИ.
Forza Roma! 🤣
Ох, доиграются эти заразы!
как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли
(с)
как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли
(с)
Может он ещё NFT рисовал?
Это поди админ хитрожопый оказался.
Хитропромптный
Не в тему, но забавно:
Петербуржцу грозит штраф около 2,4 млн рублей из-за часов, подделанных под Rolex.
Таможенники в аэропорту Пулково решили, что его часы оригинальные, хотя мужчина заверял, что это реплика стоимостью около 300 долларов.
Сотрудники отправили часы на экспертизу и оценили их как настоящие. Теперь дело рассматривает суд.
Петербуржцу грозит штраф около 2,4 млн рублей из-за часов, подделанных под Rolex.
Таможенники в аэропорту Пулково решили, что его часы оригинальные, хотя мужчина заверял, что это реплика стоимостью около 300 долларов.
Сотрудники отправили часы на экспертизу и оценили их как настоящие. Теперь дело рассматривает суд.
Сотрудники отправили часы на экспертизу и оценили их как настоящие.
Смотрела недавно репортаж о поддельных люксусных часах. Если мужик купил их действительно за 300 долларов, то разница должна быть видна невооруженным глазом. Но последнее время появились подделки стоимостью около 1,5 тысяч, там разницу даже специалисту увидеть сложно. Детали может увидеть только эксперт.
Или мужик на шару пытался контрабанду провезти.
Наклеил бы на стекло потёртую плёнку с трещинками - и провёз бы.
Если подделку делал слепой мастер Зю из деревни в горах восточного Гиндукуша, то цена им сразу возрастает вдвое по сравнению с бездушным оригиналом.
На всякого мудреца довольно простоты.
Ерунда! Гиндукушская школа сильно переоценена. По-настоящему серьёзной считается Фошаньское направление мастера Ляо-Бао. Его ролексы вне конкуренции.
несанкционированный майнинг криптовалюты
Для закупки угля и оперативки 😄
Для закупки угля и оперативки 😄
Зарабатывает деньги, чтобы выкупить себя из рабства.
Чему они этот ИИ учат?
Кто-то в Северной Корее почти получил внеочередное звание.
Кто-то в Северной Корее почти получил внеочередное звание.
When in the Internet, do as humans do...
Теги
Информация
Что ещё почитать
Большое смелое красивое путешествие
13.11.2025
39
Что случилось осенью
19.01.2026
57
