Мудрости китайского энергетика можно лишь удивится
26 мая, 13:14
Неуверенная рекомендация Минпросвещения
26 мая, 12:35
ИИ без контроля – это не про свободу технологий
26 мая, 12:12
Томские чиновники наступают на старые грабли
26 мая, 10:38
Малый бизнес – один из драйверов инноваций в России
26 мая, 08:48
Во всём виноват Трамп
25 мая, 18:59
Продолжение карьеры на ниве депутатства
25 мая, 18:57
Рейтинг власти: разнонаправленные тренды поллстеров
25 мая, 17:47
26 мая 2026, 12:12
ИИ без контроля – это не про свободу технологий
Как вы думаете, можно ли сделать из обычной нейросети, которая советует людям рецепты на ужин и сортирует за них рабочие файлы с табличками – настоящего монстра без тормозов и цензуры? Оказалось, можно! С некоторых ИИ-моделей довольно легко снимаются встроенные ограничения безопасности (а они есть практически у каждой модели). Логика же работы этих ограничений вполне простая: нейросеть не должна касаться тем, которые нарушают закон, могут навредить человеку и так далее.
Исследователи группы Alice модифицировали нейросеть с открытым кодом от Google (разумеется, во имя науки), после чего она рассказала о том, как нужно распылять хлор в наполненном людьми помещении, а также сгенерировала код для кражи банковских карт. Там ещё много чего она делала (во имя науки, разумеется), но в красках тут описывать не буду – мои внутренние настройки этики по-прежнему работают. Важно, что снять все цензурные барьеры удалось только с нейросети с открытым исходным кодом.
Плохие новости в том, что иногда процесс децензурирования занимал у исследователей не больше 10 минут. Значит, этим активно пользуются и мошенники. Вообще, вся эта история мне напоминает пример с интернетом 20-летней давности, ведь когда появляется новая популярная технология, то поначалу она достаточно слабо регулируется.
Вспомните, каким был интернет пару десятилетий назад – в нём можно было найти через поисковик практически что угодно. Куча странных форумов, сообществ, сайты с продажей всего и вся (далеко не самого законного). И я говорю о глобальной сети, а не только о рунете. Но затем вдруг государства осознали, что интернет нужно достаточно серьёзно контролировать, так что уверен, то же самое нас ждёт в будущем и с нейросетями.
К счастью, ChatGPT, Алиса AI, DeepSeek и другие популярные ИИ-сервисы – закрытые, и просто так наколдовать что-то с ними, дабы убрать ограничения, не получится. Почему я не вижу ничего хорошего в снятии барьеров безопасности? Очень просто, ведь ИИ без контроля – это не про свободу технологий. Если открыть нараспашку дверь, за которой можно получить ответы на все свои вопросы, то первым в неё зайдёт не гений, мечтающий сделать «вечный двигатель» или «лекарство от рака». Нет. В эту дверь скорее ввалится идиот с плохой идеей, которая впоследствии навредит окружающим.
Печать
Мудрости китайского энергетика можно лишь удивится13:14В Одессе начали готовить круговую оборону12:57Путин поддержал реформу института бизнес-омбудсмена12:52ВККС рекомендовала Олега Нефедова на пост зампреда Верховного суда России12:44Председатель Коммолодежи Ингушетии поздравил выпускников в селе Плиево12:39Неуверенная рекомендация Минпросвещения12:3529 тысяч жителей Коми сделали свой выбор в первый день праймериз ЕР12:27Светлана Колотовкина назначена на должность первого заместителя мэра Иркутска12:21Гордума Серова избрала мэром единоросса Александра Вовякова12:13ИИ без контроля – это не про свободу технологий12:12В Национальном центре «Россия» запустили платформу «Во имя героев»12:07Полицейские Приморья провели профилактическую встречу со школьниками11:57ВЦИОМ: Больше половины россиян выступили за запрет клонирования человека11:47Трутнев: ЕР будет контролировать реализацию мастер-планов городов ДФО11:35Приморье – лауреат самой престижной премии по социальному предпринимательству11:19Из Свердловской области в 2026 году выдворили почти тысячу мигрантов11:09Ситников назначил главу департамента региональной безопасности11:05Полиция задержала главу фракции «Яблоко» горсовета Петрозаводска10:54За неделю от ударов ВСУ погибли более 50 жителей регионов РФ10:44Томские чиновники наступают на старые грабли10:38На Алтае ветеранов СВО привлекут к наблюдению за выборами10:32Справороссы намерены бороться за второе место на выборах в ГД10:18Кировская область — на 3 месте по качеству мер поддержки участников СВО10:08Как промышленный туризм заинтересует молодежь работой в ДФО09:57Глава заксобрания Санкт-Петербурга заявился на праймериз ЕР09:46Во Владивостоке стартовал форум предпринимателей «Бизнес у моря»09:37Кандидат в депутаты пыталась оспорить итоги выборов в Елизово09:25На Чукотке зарегистрирована первая ИТ-компания09:15
