Нейро-Сталин как объединяющая медийная фигура
10 июля, 17:42
Ущерб суверенитету России не решит проблему безопасности
10 июля, 17:33
Вложения в альтернативную энергетику в мире будут расти
10 июля, 15:52
Иногда лучше перебдеть, чем потом разгребать
10 июля, 14:49
У США был шанс пойти с нами мирным путем
10 июля, 14:12
Работа в России – новый тренд на международном рынке труда?
10 июля, 13:13
Очереди и перебои на АЗС – это не только технические проблемы
10 июля, 11:45
Падение японской долговой пирамиды
10 июля, 10:31
26 мая 2026, 12:12
ИИ без контроля – это не про свободу технологий
Как вы думаете, можно ли сделать из обычной нейросети, которая советует людям рецепты на ужин и сортирует за них рабочие файлы с табличками – настоящего монстра без тормозов и цензуры? Оказалось, можно! С некоторых ИИ-моделей довольно легко снимаются встроенные ограничения безопасности (а они есть практически у каждой модели). Логика же работы этих ограничений вполне простая: нейросеть не должна касаться тем, которые нарушают закон, могут навредить человеку и так далее.
Исследователи группы Alice модифицировали нейросеть с открытым кодом от Google (разумеется, во имя науки), после чего она рассказала о том, как нужно распылять хлор в наполненном людьми помещении, а также сгенерировала код для кражи банковских карт. Там ещё много чего она делала (во имя науки, разумеется), но в красках тут описывать не буду – мои внутренние настройки этики по-прежнему работают. Важно, что снять все цензурные барьеры удалось только с нейросети с открытым исходным кодом.
Плохие новости в том, что иногда процесс децензурирования занимал у исследователей не больше 10 минут. Значит, этим активно пользуются и мошенники. Вообще, вся эта история мне напоминает пример с интернетом 20-летней давности, ведь когда появляется новая популярная технология, то поначалу она достаточно слабо регулируется.
Вспомните, каким был интернет пару десятилетий назад – в нём можно было найти через поисковик практически что угодно. Куча странных форумов, сообществ, сайты с продажей всего и вся (далеко не самого законного). И я говорю о глобальной сети, а не только о рунете. Но затем вдруг государства осознали, что интернет нужно достаточно серьёзно контролировать, так что уверен, то же самое нас ждёт в будущем и с нейросетями.
К счастью, ChatGPT, Алиса AI, DeepSeek и другие популярные ИИ-сервисы – закрытые, и просто так наколдовать что-то с ними, дабы убрать ограничения, не получится. Почему я не вижу ничего хорошего в снятии барьеров безопасности? Очень просто, ведь ИИ без контроля – это не про свободу технологий. Если открыть нараспашку дверь, за которой можно получить ответы на все свои вопросы, то первым в неё зайдёт не гений, мечтающий сделать «вечный двигатель» или «лекарство от рака». Нет. В эту дверь скорее ввалится идиот с плохой идеей, которая впоследствии навредит окружающим.
Печать
В Королеве к выборам подготовят 90 избирательных участков21:12Хоценко обсудил развития Кировского округа с его жителями21:00Псковский облизбирком заверил список кандидатов в ЗС от ЛДПР20:47Губернатор Алтайского края встретился с «серебряными» волонтерами20:35В Минстрое Архангельской области формируют общественный совет20:22В Ярославской области обсудили создание стратегического мастер-плана20:10Ямальские девушки объяснили, почему выбирают мужские профессии18:36Борщевой набор подешевел в РФ почти на треть в июне18:35Нейро-Сталин как объединяющая медийная фигура17:42Ущерб суверенитету России не решит проблему безопасности17:33Дмитрий Алференко возглавил минобрнауки Запорожской области17:27В ДНР назначили нового министра внутренних дел16:27Самарского парламентария выгнали из ЕР за обман про участие в СВО16:08Вложения в альтернативную энергетику в мире будут расти15:52Мэр Кирсанова покинул пост для выдвижения в Тамбовскую облдуму15:41В Воронежской области все УИК и ТИК оснастят видеонаблюдением15:29ВЦИОМ: уровень одобрения деятельности президента снизился до 66%15:16«Новые люди» выдвинули кандидатов в ЗС Нижегородской области15:02Иногда лучше перебдеть, чем потом разгребать14:49ЦИК заверила списки кандидатов в Госдуму от трех партий14:40Красноярский вице-премьер стал главой Счетной палаты края14:26Самарские единороссы определились с кандидатами в заксобрание14:17У США был шанс пойти с нами мирным путем14:12Владимир Путин обсудил с Совбезом информационную безопасность РФ13:5930 тысяч наблюдателей прошли обучение по программе НОМ и ОП РФ13:41Госдума с 2021 года приняла 18 законов против мошенников13:29Работа в России – новый тренд на международном рынке труда?13:13Кто и как будет следить за чистотой голосования в Коми12:54
