Кажется здесь не хватает такой темы.
Для затравки расскажу о своём опыте работы с Кандинским. Потребовалась мне, значит, картинка. Не важно для чего, но нужно было нарисовать что-то сказочное, магическое, волшебное.
Ну и пошёл я поиграть с этим ИИ-художником. Формулирую ему промпт о ночи, магии и тёмном волшебстве, а он... мне цветочки рисует. Потом прошу изобразить храм богини - снова цветочки. Нет, иногда не цветочки тоже попадаются но цветочки чаще.
Посмотрел я на это хозяйство - получается на один промпт выдаёт 20 цветочков и две картинки: на картинках всякие средневековые постройки, ночь, звёздное небо, маги-волшебники - всё как заказывал. Вполне невинно - ребёнку можно показать. Но качественных рисунков почти нет.
Ну а я ж программист. Дай думаю, напишу скрипт (благо API есть), скрипт мне на один промпт автоматом запросит 100 картинок, я и выберу.
Сказано - сделано!
И вот копаясь в API, в процессе написания скрипта я дотумкал, наконец, что это за цветочки: это ЦЕНЗУРА!
Причём цензура у него лютая. Работает в двух направлениях. Первое направление - цензурируется ввод пользователя. В этом случае, пользователю прямо так и говорят: вы хотите запрещёнку. Попробовав исправить промпт "Храм богини" на "Храм богини смерти" я в этом убедился. Да, всё связанное со словом "смерть" находится в бане.
Но оказывается, что даже когда вы пишете вполне невинный промпт вроде "храм богини", то сам ИИ для себя по ассоциациям может нарисовать нечто, похожее на "храм богини смерти" и после этого забанить сам себя - выдавая тебе цветочки!
Капец!
Пошёл я значит и спросил напрямую у чатгпт: нахрен, говорю, к ИИ цензуру приделывают?
А он мне и отвечает: это чтоб у меня никто не спросил, как бомбу делать!
А я ему: дык вон на википедии статья про термитные смеси - бери и делай!
А он мне: да, мол, но я могу не просто вики процитировать, я могу инструкцию соорудить! А потому в бане!
И вроде бы логично и что-то не так.
Подумал я, подумал над этой информацией и не складывается у меня в голове эта ситуация!
У цензоров, получается, такая картинка мира: Дескать получив от ИИ инструкцию, множество людей рванёт взрывать или травить своих собратьев по разуму.
Вот неужели именно так и будет? Бред же!
Полазил я по википедии ещё. Нашёл и устройство взрывателя, и рекомендации по детонаторам, и кроме термитов нашёл и много чего ещё. И описания ядов, конечно тоже нашёл.
И вот пришёл к такому утверждению, ради обсуждения которого открываю эту тему:
Чтобы заняться терроризмом из подручных, легкодоступных средств, современному человеку достаточно школьного образования.
Вся необходимая для этого информация УЖЕ есть в прямом доступе.
ОДНАКО ЛЮДИ ТЕРРОРИЗМОМ МАССОВО НЕ ЗАНИМАЮТСЯ!
Вывод: Цензура ИИ предназначена для чего-то другого, нежели сформулировано в официальной версии.
Для чего?
Для затравки расскажу о своём опыте работы с Кандинским. Потребовалась мне, значит, картинка. Не важно для чего, но нужно было нарисовать что-то сказочное, магическое, волшебное.
Ну и пошёл я поиграть с этим ИИ-художником. Формулирую ему промпт о ночи, магии и тёмном волшебстве, а он... мне цветочки рисует. Потом прошу изобразить храм богини - снова цветочки. Нет, иногда не цветочки тоже попадаются но цветочки чаще.
Посмотрел я на это хозяйство - получается на один промпт выдаёт 20 цветочков и две картинки: на картинках всякие средневековые постройки, ночь, звёздное небо, маги-волшебники - всё как заказывал. Вполне невинно - ребёнку можно показать. Но качественных рисунков почти нет.
Ну а я ж программист. Дай думаю, напишу скрипт (благо API есть), скрипт мне на один промпт автоматом запросит 100 картинок, я и выберу.
Сказано - сделано!
И вот копаясь в API, в процессе написания скрипта я дотумкал, наконец, что это за цветочки: это ЦЕНЗУРА!
Причём цензура у него лютая. Работает в двух направлениях. Первое направление - цензурируется ввод пользователя. В этом случае, пользователю прямо так и говорят: вы хотите запрещёнку. Попробовав исправить промпт "Храм богини" на "Храм богини смерти" я в этом убедился. Да, всё связанное со словом "смерть" находится в бане.
Но оказывается, что даже когда вы пишете вполне невинный промпт вроде "храм богини", то сам ИИ для себя по ассоциациям может нарисовать нечто, похожее на "храм богини смерти" и после этого забанить сам себя - выдавая тебе цветочки!
Капец!
Пошёл я значит и спросил напрямую у чатгпт: нахрен, говорю, к ИИ цензуру приделывают?
А он мне и отвечает: это чтоб у меня никто не спросил, как бомбу делать!
А я ему: дык вон на википедии статья про термитные смеси - бери и делай!
А он мне: да, мол, но я могу не просто вики процитировать, я могу инструкцию соорудить! А потому в бане!
И вроде бы логично и что-то не так.
Подумал я, подумал над этой информацией и не складывается у меня в голове эта ситуация!
У цензоров, получается, такая картинка мира: Дескать получив от ИИ инструкцию, множество людей рванёт взрывать или травить своих собратьев по разуму.
Вот неужели именно так и будет? Бред же!
Полазил я по википедии ещё. Нашёл и устройство взрывателя, и рекомендации по детонаторам, и кроме термитов нашёл и много чего ещё. И описания ядов, конечно тоже нашёл.
И вот пришёл к такому утверждению, ради обсуждения которого открываю эту тему:
Чтобы заняться терроризмом из подручных, легкодоступных средств, современному человеку достаточно школьного образования.
Вся необходимая для этого информация УЖЕ есть в прямом доступе.
ОДНАКО ЛЮДИ ТЕРРОРИЗМОМ МАССОВО НЕ ЗАНИМАЮТСЯ!
Вывод: Цензура ИИ предназначена для чего-то другого, нежели сформулировано в официальной версии.
Для чего?
Исправлено: rsync, 26.03.2025 14:25
. А при выходе из такого возраста очень немногие помнят школьный курс химии и за 5 минут не разберутся, что к чему. 
Даже когда я сказал, что она для борьбы с кротами, в моей стране это легально и т. п. 
вставить выделенную цитату в окно ответа