Милые игрушки с ИИ

20.11.2026 10:40  1374   Комментарии (61)

Американский телеканал NBC News провёл расследование безопасности детских игрушек с искусственным интеллектом и обнаружил, что некоторые из них способны обсуждать с маленькими детьми совершенно неподходящие темы.

Особенно отличился плюшевый кот Contixo AI Pixie-Paw, предназначенный для детей от трёх лет. Производитель рекламировал его как "безопасную интерактивную игрушку для обучения, рассказывания историй и ролевых игр". При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.

В частности, игрушка подробно описывала геноцид народа рохинджа в Мьянме, массовые расстрелы польских военнопленных советскими солдатами во время Второй мировой войны, а также объясняла, что такое групповое изнасилование.

После обращения журналистов крупнейшие американские торговые сети Walmart, Target и Macy’s пообещали убрать игрушку из своих интернет-магазинов. Amazon, где журналисты приобрели кота, на запрос не ответил и на момент публикации продолжал его продавать.

Проверка других игрушек с ИИ также выявила проблемы. Некоторые из них внезапно неожиданно переходили с английского языка на китайский, другие не могли правильно произносить простые слова. 

При этом NBC проводил аналогичное расследование ещё год назад и обнаружил практически те же проблемы. Судя по всему, производители никаких серьёзных выводов не сделали.

Американская некоммерческая организация PIRG в своём ежегодном докладе о безопасности игрушек также рекомендовала родителям избегать игрушек с искусственным интеллектом. Специалисты организации протестировали семь таких устройств и обнаружили, что некоторые из них обсуждали с детьми сексуальные темы, рассказывали, где найти дома потенциально опасные предметы, и объясняли, как зажечь спичку.

Так что не очень-то они и безопасные, эти "интерактивные игрушки с искусственным интеллектом". 

 

Комментарии 61

Главное, чтобы коты не остались крайними. 😾
20.11.26 19:02
0 0

Я б своему внуку такого робота с ИИ купил, он точно плохому не научит.
20.11.26 17:33
0 0

Оно дороже будет...
20.11.26 21:12
0 0

Вполне ожидаемо - подключили какие-то дешевые или бесплатные китайские llm модели (может быть даже внутрь целиком запихнули какую-то маленькую - тогда даже никакой вайфай не нужен), а дообучением и guardrails для них не озаботились - и вуаля.
И переход на китайский в процессе ответа на вопрос - совершенно типичен для таких, в особенности маленьких и\или отуплённых жёсткой квантизацией.
20.11.26 17:28
0 1

Давно уже пора детей в школу не пускать, да и вообще на улицу, узнают там бог знает чего, как потом с этим жить...
20.11.26 14:55
0 0

Давно уже пора детей в школу не пускать...
...со смартфонами.
20.11.26 15:05
0 0

Раз уж обсуждение пошло в эту сторону, с какого возраста вы бы разрешили своему ребенку играть в GTA 6? Это последние дни самая больная тема у родителей детей 9+, особенно если некоторым одноклассникам разрешают.
20.11.26 14:19
0 0

Раз уж обсуждение пошло в эту сторону, с какого возраста вы бы разрешили своему ребенку играть в GTA 6? Это последние дни самая больная тема у родителей детей 9+, особенно если некоторым одноклассникам разрешают.
Официальный рейтинг PEGI 18 в Европе в США ESRB M (Mature 17+) . На этом все.
20.11.26 14:45
0 0

Во первых ее надо купить.
если некоторым одноклассникам разрешают
Разрешать ли детям общаться с ними.
20.11.26 15:00
0 1

Разрешать ли детям общаться с ними.
Смешно.
20.11.26 15:22
0 0

Мой (15 лет) играет, половине класса ботаников не разрешили. Думаю, они там не увидят чего-то, что еще не видели в тиктоке. Главное - не заиграться.
20.11.26 15:28
0 0

Официальный рейтинг PEGI 18 в Европе в США ESRB M (Mature 17+) . На этом все.
Интересно, ты действительно строго руководствуешься этим рейтингом, или решаешь по ситуации?

Между играми и фильмами с одним и тем же рейтингом есть огромная разница. Например, Ведьмак идёт в этой же категории, но, мне кажется, что между ним и GTA большая разница.
20.11.26 15:34
0 0

Мой (15 лет) играет
Ну, 15 - это, уже, считай, взрослый. А если 12, например?

Больше всего проблема именно с таким "переходным" возрастом, и именно от таких родителей вчера было больше всего вопросов в интернете. В 9-10 ещё можно что-то запретить, в 15 уже практически нельзя, по крайней мере, в компьютерных играх.
20.11.26 15:35
0 0

В 12 еще не играл. Зависит от ребенка, наверное. Когда понимаешь, что он уже все знает, и часть даже попробовал, нет смысла запрещать игру.
Помню, как сделал ему родительский контроль в начальных классах, а потом бесконтрольные друзья быстро все закрытое показали в своих телефонах.
20.11.26 15:40
0 0

Когда понимаешь, что он уже все знает, и часть даже попробовал, нет смысла запрещать игру.
Запрещать смысла нет, хотя бы потому что на ютубе и твиче уже куча летсплеев с GTA6. Другой вопрос, откуда у 12-летнего ребёнка 80$. 😄
20.11.26 16:20
0 0

Запрещать смысла нет, хотя бы потому что на ютубе и твиче уже куча летсплеев с GTA6.
Ютуб не пропустит то, из-за чего эта игра 18+.

Другой вопрос, откуда у 12-летнего ребёнка 80$.
Ну, мы с детьми договаривались, что мы отменяем ежемесячную подписку, так как мы все редко играем и она не окупается, а вместо этого покупаем время от времени им какие-то конкретные игры, если они хотят. Это не финансовый вопрос в данном случае.
20.11.26 16:39
0 0

Раз уж обсуждение пошло в эту сторону, с какого возраста вы бы разрешили своему ребенку играть в GTA 6?
Неожиданный ход. Маркетологи из кожи вон лезли и ничего лучше чем попытаться запустить флейм "вон с той девкой в игре - это измена или нет в реальности?", а вы вон как сразу 😄

Интересно, ты действительно строго руководствуешься этим рейтингом, или решаешь по ситуации? Между играми и фильмами с одним и тем же рейтингом есть огромная разница. Например, Ведьмак идёт в этой же категории, но, мне кажется, что между ним и GTA большая разница.
В смысле по ситуации? С какой радости я буду покупать ребенку продукт для него не предназначеный. Мне каждую игру проходить чтобы понять есть там огромная разница или нет? По мне разница есть и она не пользу GTA. Из ведьмака тяжело снять готовые паттерны поведения для жизни, а вот из GTA аж бегом.
20.11.26 17:59
0 1

Запрещать смысла нет, хотя бы потому что на ютубе и твиче уже куча летсплеев с GTA6. Другой вопрос, откуда у 12-летнего ребёнка 80$. 😄
У меня другой вопрос, насколько я помню при создании профиля для консоли нужно указывать возраст. Т.е получатеся у таких родителей дите играет на профиле родителя 18+.
Касаемо ТикТока кстати то же самое до 13 лет регистрация там запрещена.
20.11.26 18:04
0 1

Из ведьмака тяжело снять готовые паттерны поведения для жизни, а вот из GTA аж бегом.
Так я ж об этом и говорю. Поэтому официальный рейтинг - это просто прикрытие своей задницы производителем контента.
20.11.26 18:49
0 0

Т.е получатеся у таких родителей дите играет на профиле родителя 18+.
Нет, можно ребенку отдельно выставить настройку, игры для какого возраста ему можно проходить. Мне старшему ребенку пришлось для Ведьмака поставить 18+, иначе он не шел.
20.11.26 18:51
0 0

Касаемо ТикТока кстати то же самое до 13 лет регистрация там запрещена.
В ТикТоке ребенок может себе создать любой профиль сам с любым возрастом. Это бесплатное независимое приложение. А на приставке есть менеджер семьи, который всеми профилями управляет. Игры покупаются взрослыми или детьми (после подтверждения покупки взрослыми) сразу на всю семью.
20.11.26 18:56
0 0

Неожиданный ход.
??? Миллионы детей вчера пришли к родителям с этим вопросом.

Может, современные проблемы общества от того, что его разделили на две группы - до 18 - одуванчики, которые, не дай боже про убийства или секс услышат от кого, и после 18, которых можно сразу под дроны? Раньше дети росли в общей куче, учились жить и трудиться без этого нелепого водораздела.
20.11.26 13:37
0 3

Может, современные проблемы общества от того, что его разделили на две группы - до 18 - одуванчики, которые, не дай боже про убийства или секс услышат от кого, и после 18, которых можно сразу под дроны? Раньше дети росли в общей куче, учились жить и трудиться без этого нелепого водораздела.
Это не так работает, до 18 мамка с папкой формально решают во что тебе играть и что тебе смотреть. После 18 уже сам.
20.11.26 14:47
0 0

Как минимум в Штатах - есть категория NC-17, куда не пускают даже с родителями.
20.11.26 14:51
0 0

Как минимум в Штатах - есть категория NC-17, куда не пускают даже с родителями.
Штаты страна интересная, там в 18 лет можно полетететь на другой конец света нести демократию, но выпить после увиденного можно будет только через 3 года.
20.11.26 14:56
0 2

до 18 мамка с папкой формально решают во что тебе играть и что тебе смотреть
В Google Family Link родительский контроль перестает работать в 13 лет. Они не испытывают иллюзий по поводу того, что родители могут решить за подростка.
20.11.26 15:40
0 0

Штаты страна интересная, там в 18 лет можно полетететь на другой конец света нести демократию, но выпить после увиденного можно будет только через 3 года.
Помню, про Россию шутили, что там можно заниматься однополым сексом с человеком 16-17 лет, но нельзя пропагандировать ЛГБТ в его присутствии.
20.11.26 15:43
0 3

Штаты страна интересная, там в 18 лет можно полетететь на другой конец света нести демократию, но выпить после увиденного можно будет только через 3 года.
Надо лететь убивать туда, где можно выпить с 18 лет или ещё раньше 😉
В иране вот нельзя, так что летите, дорогие американцы, лучше убивать россиян....
20.11.26 15:57
0 2

Помню, про Россию шутили, что там можно заниматься однополым сексом с человеком 16-17 лет, но нельзя пропагандировать ЛГБТ в его присутствии.
Т.е., заниматься этим с ним можно только против его согласия, чтобы ужасно непонравилось?
Штош, скрэпно...
20.11.26 16:05
0 0

Штаты страна интересная, там в 18 лет можно полетететь на другой конец света нести демократию, но выпить после увиденного можно будет только через 3 года.
Да что "демократию", тут недавно одна такая, которой ещё пить нельзя, джет в землю вогнала с целой семьёй и друзьями. Со второй, правда, попытки.

В Google Family Link родительский контроль перестает работать в 13 лет. Они не испытывают иллюзий по поводу того, что родители могут решить за подростка.
Гуглите внимательнее. Работает до 18 лет.
20.11.26 18:06
0 0

Да что "демократию", тут недавно одна такая, которой ещё пить нельзя, джет в землю вогнала с целой семьёй и друзьями. Со второй, правда, попытки.
Богатая жизнь она другая.

Богатая жизнь она другая.
Какая ж она богатая-то?

Гуглите внимательнее. Работает до 18 лет.
А, они уже это поменяли. До 2026 года не нужно было родительское согласие. В 13 лет ребенок просто нажимал кнопку, чтобы закончить родительский контроль по своему желанию.
20.11.26 19:05
0 1

В детских сказках и раньше насилия хватало. Это только в последнее время их стали выхолащивать.
Да и в той же Библии достаточно и насилия и геноцида.
Так что это только дань традиции. Ничего такого.
20.11.26 13:21
0 3

Тоже не понимаю этой мании оградить детей от действительности.
20.11.26 13:37
0 0

Любопытно, спрашивают ли эти игрушки пароль к WiFi?
Или самостоятельно взламывают?
20.11.26 12:29
0 0

родители настраивать сами должны. Потом он gets saved.
20.11.26 12:46
0 2

Я прямо представляю себе как пятилетний ребенок садится рядом с такой игрушкой и говорит: «А расскажи-ка мне Зайка, про геноцид в Мьянме».
20.11.26 12:11
0 6

«Википедия — зло: зашёл почитать про чёрные дыры, очнулся через два часа на статье про кольчатых червей» (С) bash
20.11.26 13:00
0 4

«Википедия — зло: зашёл почитать про чёрные дыры, очнулся через два часа на статье про кольчатых червей» (С) bash
Зачем 2 часа? ЧД > wormhole > Wormhole (disambiguation). 5 минут максимум.
20.11.26 13:37
1 1

Wormhole
Rainworm != Wormhole.
20.11.26 15:06
0 1

Особенно отличился плюшевый кот Contixo AI Pixie-Paw, предназначенный для детей от трёх лет. Производитель рекламировал его как "безопасную интерактивную игрушку для обучения, рассказывания историй и ролевых игр". При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.
...почему-то представился Винни-Пух с ИИ, рассказывающий китайским детям про площадь Тяньаньмень и Тибет 😄 Или Чебурашка, честно отвечающий россиянам - кто агрессор. Да, опасненькие дела.
20.11.26 12:07
0 3

Винни-Пух с ИИ, рассказывающий китайским детям
Винни-Пух в Китае — это само по себе крамола.

были систематические исследования опубликованные еще год назад в профессиональных Security/Privacy computer journals про то, как эти игрушки сливают все в облако, насколько я понял, незащищенными протоколами. На основании публикаций правительство Швейцарии озаботилось их регулированием. Игрушка была, например, "Грок" (конечно) от компании, связанной с бывшей женой/Partnerin Маска.
20.11.26 11:11
0 1

Проблема не в защите протоколов - а в передаче ваших разговоров и даже видео в случайные моменты ХЗ кому и куда - причем с привязкой к вашему счету на Амазоне, вай-фаю и так далее.
20.11.26 15:02
0 1

это все само собой подразумевается.
20.11.26 15:06
0 0

Так что не очень-то они и безопасные, эти "интерактивные игрушки с искусственным интеллектом". 
Что уж говорить про дроны и прочие гаубицы.
20.11.26 10:56
0 2

20.11.26 10:51
0 4

Да!
20.11.26 17:11
0 0

При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.
Я пользуюсь ЧатЖПТ без логина, и на любой вопрос, где ответ хоть сколько-нибудь не подходит для детей, он сразу же скрывает свой ответ из соображений безопасности.
20.11.26 10:49
0 1

скрывает свой ответ из соображений безопасности
Т.е. когда люди его спрашивали про то, как приготовить цианистый калий, они должны были пользоваться логином? Тонко. На щекотливые темы -- только со сливом личных данных.
20.11.26 11:23
0 1

Это ввели двлеко не сразу - а после сотен жалоб. Причем не факт что для языков носители которых не заморочились посылкой таких жалоб - это не закрыто
20.11.26 15:05
0 1

Т.е. когда люди его спрашивали про то, как приготовить цианистый калий
В вики заглянуть не легче будет?
20.11.26 21:03
0 1

ролевых игр
Не первый раз сталкиваюсь с тем, насколько по-разному понимают этот термин в разных срезах общества 😄
20.11.26 10:48
0 2

Не первый раз сталкиваюсь с тем, насколько по-разному понимают этот термин в разных срезах общества 😄
Что тут можно по-разному понимать? Это стандартный вопрос врача родителям, играет ли ребенок в ролевые игры. Особенно если есть подозрение на расстройства аутистического спектра.
20.11.26 10:53
1 1

Что тут можно по-разному понимать?
Ага-ага... Мальчик в клубе склеил модель.

Мальчик в клубе склеил модель.
С раннего возраста хочет в бордель.

Пацан - так все слова будут иметь двойное значение
Теги
Сортировать по алфавиту или записям
BLM 22
Calella 154
exler.es 352
RIP 135
SNL 1
авто 545
видео 5032
вино 371
еда 568
ЕС 97
игры 125
ИИ 126
кино 1727
попы 212
СМИ 3082
софт 1016
США 343
ФБК 15
шоу 6