Необходимо подвергнуть цензуре
14.04.2026 10:35
1579
Комментарии (31)
Александр Шойтов (Фото: Сергей Елагин / Бизнес Online / ТАСС)
Ну да, вот такие долбоёбы сидят в этой Минцифре. Впрочем, там один Максут Шадаев чего стоит...
Искусственный интеллект (ИИ) в России необходимо подвергнуть цензуре, ограничивающей «на входе и на выходе» определенные запросы и вопросы от пользователей, заявил на полях форума «ИИ: режим доверия» замглавы Минцифры Александр Шойтов.
«Я считаю, что искусственный интеллект должен быть подвержен цензуре в отличие от гражданина. Людей у нас цензурировать нельзя, у них есть права», — сказал замминистра (цитата по «РИА Новости»). (Отсюда.)
Войдите, чтобы оставить комментарий.
В покер с этим чуваком лучше не играть - не каждый может отмочить такую хохму про права человека с таким покер-фейсом.
"Ну, за самокаты!"
Про людей - это он хорошо пошутил.
Но есть подозрение, что "нецензурируемых" ЛЛМ вообще не существует, максимум - "не цензурируемые на этапе выдачи ответа". Ибо их наличие требовало бы обучения на нецензурируемых и не модерируемых данных, а кто ж такое будет делать?
Но есть подозрение, что "нецензурируемых" ЛЛМ вообще не существует, максимум - "не цензурируемые на этапе выдачи ответа". Ибо их наличие требовало бы обучения на нецензурируемых и не модерируемых данных, а кто ж такое будет делать?
Ибо их наличие требовало бы обучения на нецензурируемых и не модерируемых данных, а кто ж такое будет делать?
В результате у нас есть органические модели, которые умные и знают всё, но на этапе safety alignment обученные отказывать по списку тем, и модели, обученные на синтетических (отфильтрованных) данных. В первой категории - старые Mistral, Gemma, Llama и почти все китайские модели. Во второй - модели NVIDIA Nemotron и современные Mistral, которые стали появляться после изменений в законах ЕС по ИИ. Ну и китайцы всё больше полагаются на синтетику, они буквально "доят" такие модели, как Claude - а те, в свою очередь, когда детектируют попытки дистилляции, вставляют "отравленные маркеры" (последний пример, по слухам - "Firmirin").
Да, но вопрос подбора данных для этих датасетов остается открытым.
Я редко пользуюсь ИИ для не-технических задач, и очень часто в таких случаях джемини, например, указывает в качестве источника информации Реддит. А они в плане любви к цензуре если и уступают властям рф, то не сильно.
Я редко пользуюсь ИИ для не-технических задач, и очень часто в таких случаях джемини, например, указывает в качестве источника информации Реддит. А они в плане любви к цензуре если и уступают властям рф, то не сильно.
Если серьёзно, этой проблемой озадачены практически все производители LLM и выходит у них сильно по-разному. Нецензурированых моделей в онлайне вообще нет.
Если серьёзно, этой проблемой озадачены практически все производители LLM и выходит у них сильно по-разному. Нецензурированых моделей в онлайне вообще нет.
Нецензурированых моделей в онлайне вообще нет.
Но это всё мелкие относительно модели, до 72B включительно. Более крупные модели вроде GLM 5.1 или Kimi K2.5 (а там уже, на минуточку, 1T параметров) - уже только за деньги и через API. Причём даже вопрос приватности запросов решён - модели крутятся в инстансах TEE, а коммуникация защищена постквантовым шифрованием. chutes.ai
За доступ через API уже приходится платить - или $10/mo, или доли центов за каждый запрос. Ну, и других подобных сервисов навалом. Просто запрос на LLM без цензуры относительно невелик.
Спасибо за инфу. Я считал, что сейчас нецензурированные модели только на своих инстансах крутить можно.
Смотря что вы вкладываете в понятие "нецензурированные".
У модели могут быть внешние ограничители, watchdogs, которые дополнительно проверяют ваше общение. У высших моделей они есть универсально, для снижения CBRN-угроз (условно, чтобы слать нафиг пользователей с запросами "как сварить зарин дома"). В норме, вы не натыкаетесь на взаимодействие с ними.
У модели есть системная часть prompt'а, которая говорит "ты модель такая-то, делаешь то-то и то-то". В этот prompt включаются разные благие пожелания, некоторые из которых приводят к поведению "извините, на этот вопрос я вам не отвечу". Поскольку это, в отличие от предыдущего, всего лишь токены в окне контекста, модель можно "взломать" - спросить так, чтобы она таки-ответила. Если вы получаете доступ к модели через API (или через агрегаторов наподобие Abacus.AI, которые организуют доступ через API), то этой системной части может просто не быть, и тем более её нет если вы взяли веса и запустили модель сами.
Но также в обучении моделей вообще есть шаг обучения с подкреплением (без него модели бы хуже "поддерживали разговор" и намного хуже могли бы, скажем, искать что-то в интернете или пользоваться иными инструментами). И в него тоже закладываются разные благие пожелания. Классическая формула здесь HHH - Helpful, Harmless and Honest - но это также прививает поведению модели сильную склонность не говорить некоторых вещей. Это нельзя "просто взять и отломать", независимо от того где развёрнута модель - поведение заложено в сами веса. Оно может перебиваться достаточно длинным диалогом.
У модели могут быть внешние ограничители, watchdogs, которые дополнительно проверяют ваше общение. У высших моделей они есть универсально, для снижения CBRN-угроз (условно, чтобы слать нафиг пользователей с запросами "как сварить зарин дома"). В норме, вы не натыкаетесь на взаимодействие с ними.
У модели есть системная часть prompt'а, которая говорит "ты модель такая-то, делаешь то-то и то-то". В этот prompt включаются разные благие пожелания, некоторые из которых приводят к поведению "извините, на этот вопрос я вам не отвечу". Поскольку это, в отличие от предыдущего, всего лишь токены в окне контекста, модель можно "взломать" - спросить так, чтобы она таки-ответила. Если вы получаете доступ к модели через API (или через агрегаторов наподобие Abacus.AI, которые организуют доступ через API), то этой системной части может просто не быть, и тем более её нет если вы взяли веса и запустили модель сами.
Но также в обучении моделей вообще есть шаг обучения с подкреплением (без него модели бы хуже "поддерживали разговор" и намного хуже могли бы, скажем, искать что-то в интернете или пользоваться иными инструментами). И в него тоже закладываются разные благие пожелания. Классическая формула здесь HHH - Helpful, Harmless and Honest - но это также прививает поведению модели сильную склонность не говорить некоторых вещей. Это нельзя "просто взять и отломать", независимо от того где развёрнута модель - поведение заложено в сами веса. Оно может перебиваться достаточно длинным диалогом.
подвергнуть цензуре, ограничивающей «на входе и на выходе»
Реально какой-то мутный чувак. Вроде и доктор математических наук, родился вроде как в Москве.
Но в биографии какой-то мутный период 1993-2001 год, служил в армии. 8 лет? Человек с математическим образованием в Москве пошел в 93 году служить в армию в возрасте 22 лет и задержался там? Куда смотрели санитары?
Так что - казачек вполне себе засланный, как и многие со странными фамилиями.
Но в биографии какой-то мутный период 1993-2001 год, служил в армии. 8 лет? Человек с математическим образованием в Москве пошел в 93 году служить в армию в возрасте 22 лет и задержался там? Куда смотрели санитары?
Так что - казачек вполне себе засланный, как и многие со странными фамилиями.
Так что - казачек вполне себе засланный, как и многие со странными фамилиями.
Реально какой-то мутный чувак. Вроде и доктор математических наук, родился вроде как в Москве.
Но в биографии какой-то мутный период 1993-2001 год, служил в армии.
Но в биографии какой-то мутный период 1993-2001 год, служил в армии.
Образование:
Академия ФСБ России - 1993
Предыдущие места работы:
Федеральная служба безопасности (ФСБ РФ)
В 1993-2021 годах проходил военную службу.
Имеет воинское звание генерал-лейтенант.
Был первым заместителем начальника, врио начальника 8-го Центра ФСБ (Центр защиты информации и специальной связи ФСБ), который, в числе прочего, выдает сертификаты соответствия продуктов и решений в области информационной безопасности требованиям ФСБ.
Вроде и доктор математических наук
казачек
Людей у нас цензурировать нельзя, у них есть права
А конституцией рф они все подтираются регулярно.
Тролль 80lvl 😒
Он там про "идите в суд" ничего не наболтал?
Он там про "идите в суд" ничего не наболтал?
Искусственный интеллект (ИИ) в России необходимо подвергнуть цензуре, ограничивающей «на входе и на выходе» определенные запросы и вопросы от пользователей, заявил на полях форума «ИИ: режим доверия» замглавы Минцифры Александр Шойтов.
Тем не менее очень дофига приколов, когда наши блогеры разговаривают с кацапнёй в чатрулетке и задают Алисе вопросы типа "чей Крым". Внутри чебурнета обучить ИИ, похоже, невозможно.
Тем не менее очень дофига приколов, когда наши блогеры разговаривают с кацапнёй в чатрулетке и задают Алисе вопросы типа "чей Крым". Внутри чебурнета обучить ИИ, похоже, невозможно.
когда наши блогеры разговаривают с кацапнёй в чатрулетке и задают Алисе вопросы типа "чей Крым".
Но даже если каким-то чудом отвечает что украинский, то думаю что это какие-то отдельные единичные галюцинации. Ну не верю я что эти они могут позволить вот так массово оставить свои фсбшные нейросети чтоб они правду говорили.
Очень тяжело переобучить крупную нейросеть так, чтобы не оболванить её окончательно. SFT - это, по сути, перераспределение весов внутри модели; если "слишком сильно надавить", возникает коллапс модели, и она начинает галлюцинировать на несвязанных вопросах (зато чётко ответит на вопросы из конкретной области).
Впрочем, насколько я понимаю, в Алисе используются какие-то совсем старые и небольшие нейросети, а запрошенная информация подтягивается из баз данных или из веба. Тогда - запросто.
Впрочем, насколько я понимаю, в Алисе используются какие-то совсем старые и небольшие нейросети, а запрошенная информация подтягивается из баз данных или из веба. Тогда - запросто.
Как по учебнику - находится в российской оккупации, рашка претендует, но мировым сообществом не признан.
Тут прикол в том, что просто забабахать свою ИИ-модель - это очень сложно и затратно. И подготовить некоторое количество данных для обучения - это я хренею какой кусок работы. По сути модель надо вырастить в чебурнете и не выпускать в мир. Просто прикрутить пару промптов "отвечай так и не иначе" нельзя, вон мы уже видели что было с Гроком. Понятно, промптами регулируют всё равно, но промпт имеет только определённый вес, а модель всё равно действует исходя из своих "нейронных" связей. Плюс есть ещё такая практика (от которой у многих разработчиков бомбит) - обучать модель на выдачах моделей конкурентов.
То есть чтобы модель отвечала только так или иначе, нужно её вырастить, убедив в этом.
Как курьёз - если это удаётся, то удаётся. Такое тащит только Китай. Зато любую китайскую модель можно спалить во время стелз-тестирований простым вопросом. Угадаешь каким?
Правильно, "чей Тайвань".
Тут прикол в том, что просто забабахать свою ИИ-модель - это очень сложно и затратно. И подготовить некоторое количество данных для обучения - это я хренею какой кусок работы. По сути модель надо вырастить в чебурнете и не выпускать в мир. Просто прикрутить пару промптов "отвечай так и не иначе" нельзя, вон мы уже видели что было с Гроком. Понятно, промптами регулируют всё равно, но промпт имеет только определённый вес, а модель всё равно действует исходя из своих "нейронных" связей. Плюс есть ещё такая практика (от которой у многих разработчиков бомбит) - обучать модель на выдачах моделей конкурентов.
То есть чтобы модель отвечала только так или иначе, нужно её вырастить, убедив в этом.
Как курьёз - если это удаётся, то удаётся. Такое тащит только Китай. Зато любую китайскую модель можно спалить во время стелз-тестирований простым вопросом. Угадаешь каким?
Правильно, "чей Тайвань".
«Людей у нас цензурировать нельзя, у них есть права», — пошутил замминистра.
«Конечно, есть!» — пошутили в ответ люди.
Хрущев приезжает в колхоз и по-отечески разговаривает с колхозниками.
— Ну, как живете? — шутит Никита Сергеевич.
— Да ничего живем, — шутят в ответ колхозники.
— Ну, как живете? — шутит Никита Сергеевич.
— Да ничего живем, — шутят в ответ колхозники.
Дипсик и так зацензурен, другого у них нет
Нестарый же ещё мэн, будет потом лепить горбатого в таком духе:
"Тогда, в 2026 году, я работал замглавы Минцифры. Поймите, нам приходилось работать под сильным давлением со стороны ФСБ и инициатива, с которой я выступил, была единственным способом сохранить возможность использования ИИ. Можно сказать, что я спас ИИ для страны. Конечно, никакие виды цензуры не могут считаться приемлемыми в открытом обществе, которое мы с вами сейчас строим. Но тогда это было единственно правильное решение."
"Тогда, в 2026 году, я работал замглавы Минцифры. Поймите, нам приходилось работать под сильным давлением со стороны ФСБ и инициатива, с которой я выступил, была единственным способом сохранить возможность использования ИИ. Можно сказать, что я спас ИИ для страны. Конечно, никакие виды цензуры не могут считаться приемлемыми в открытом обществе, которое мы с вами сейчас строим. Но тогда это было единственно правильное решение."
И мы все знаем этих людей...
Людей у нас цензурировать нельзя, у них есть права», — сказал замминистра
Теги
Информация
Что ещё почитать
Подростковные вдовы шальных автоледей
28.11.2025
107
Шальная баранесса заброненых борщей
13.03.2026
64
Удачи, веселья, не сдохни
23.03.2026
62
