Злоупотребление ИИ делает человека глупее, установили учёные

https://3dnews.ru/1118073/zloupotreblenie-ii-delaet-…tanovili-uchyonie

Полагаясь в работе на генеративный ИИ, человек переключает свои усилия на оценку качества ответов системы — насколько они подходят для применения в рабочих целях. При этом он в меньше степени задействует навыки критического мышления более высокого порядка, необходимые для создания, оценки и анализа информации. Если человек вмешивается только тогда, когда ответов ИИ недостаточно, он тем самым лишает себя «повседневной возможности практиковать свои суждения и укреплять свою когнитивную „мускулатуру“, оставляя её атрофированной и неподготовленной, когда возникают исключения». Другими словами, когда человек слишком сильно полагается на ИИ, позволяет ему «думать» за себя, он начинает хуже решать проблемы самостоятельно, если ИИ терпит неудачу.

Лень в спортзал идти. Есть ли смысл, чтоб кто-нибудь вместо тебя занимался?

А по-моему, ИИ может сделать человека только умнее. Во-первых, он уже сейчас делает то, на что человек попросту неспособен, и тогда на ум человека никак не влияет. Во-вторых, в вопросах, в которых человек и сам более или менее компетентен, он не станет слепо полагаться на ИИ и начнет искать ошибки. ИИ - это и помощник человека и конкурент. Как помощь, так и конкуренция делают только умнее.

Шимон

Например, школьник не способен, не компетентен написать сочинение, решить задачу, ИИ делает это за него, делает ли он человека умнее?

Зависит от него. Полезность любого инструмента обусловлена способом его применения.
А пока еще ИИ - это всего лишь инструмент. Может быть, ненадолго, и уже скоро он станет чем-то бОльшим. Но пока так.

Шимон

Зависит от него.

Это благие намерения, а работать будет так, как будет. Утрируя, наркотик полезен для проведения хирургических операций, а от школьника зависеть не будет, всё скатится в известный глобальный минимум.

Шимон
он уже сейчас делает то, на что человек попросту неспособен
Я бы сказал, что способен, но при бОльших затратах времени. Иногда во много раз бОльших.

Добавление от 12.02.2025 02:23:

petr0v
, школьник не способен, не компетентен написать сочинение,
Значит сочинения надо писать в классе, сдав телефоны. Перед этим домашнее задание - подготовиться к сочинению по теме. Без указания конкретного названия темы. Нет ничего страшного в том, чтобы школьники дома уточнили у ИИ, как лучше построить сочинение и на что обратить внимание.

С математикой и другими точными науками ещё проще. На то есть классные контрольные работы. Если ученик дома использует только ИИ, то на контрольных он задачи решить не сможет.

Исправлено: Chudik, 12.02.2025 05:40

сделал ли калькулятор людей тупее?

Chudik
Значит сочинения надо писать в классе, сдав телефоны.
Логика: у нас был способ обучения Х, он работал. Теперь мир изменился. Значит надо по-прежнему применять способ Х и симулировать мир каким он был до изменений.
Эта логика
а) предполагает что вы можете симулировать мир до изменений. Что если всем ученикам сказать "сдать шпаргалки", они пожмут плечами, сдадут шпаргалки и не будут пытаться ими воспользоваться. Шире, что учителя заинтересованы в сдаче шпаргалок (а не в высоких баллах учеников на ОГЭ, ВПР и какие там ещё нынче трёхбуквенные аббревиатуры).
б) игнорирует что адаптироваться-то в конечном счёте школьники должны к новому миру, а не тому который был N лет назад. Письмо ручкой полезно по нейрофизиологическим соображениям, но больше не является сколько-то ценным самостоятельным навыком. Сочинение текстов без права посмотреть фактическую информацию по теме - тоже довольно экзотическое упражнение. Да, они полезны как упражнения, но есть и другие штуки которые важно тренировать.
в) полагает что уважение школьников к школе то ли бесконечно, то ли несущественно для вас. Если вы заставляете людей заниматься, с их точки зрения, занятием дурацким и неинтересным, то они составят о вас определённое мнение. Разумные люди без проблем с самооценкой могут пойти по пути "намеренных троечников" - рассматривать школьный процесс как проблему, от которой надо избавиться с минимумом усилий.

Если ученик дома использует только ИИ, то на контрольных он задачи решить не сможет.
А если это сделает весь класс, то вам придётся провести другую контрольную, которую в этих условиях кто-то решит.

petr0v
Например, школьник не способен, не компетентен написать сочинение, решить задачу, ИИ делает это за него, делает ли он человека умнее?
изначально глупый школьник полносьтю полагается на ИИ и получает отрицательный отклик от преподавателчя, т.к. тот точно знает как менно напишет школьник, а как нет.
сделав выводы, школьник получит от ИИ новый текст и попытается его творчески переработать, что потребует, как минимум прочитать и поверхностно изучить - вот то что и требуется для школы. станет проф литератором - изучит досконально, школа - для поверхностного изучения всего и вся.

petr0v
Злоупотребление ИИ делает человека глупее, установили учёные
Человека много что глупее сейчас делает, причем не конкретных людей, а человека как вид, и это ученые тоже установили.

Эволюция начала в сторону отупения людей работать, и дальше уже в принципе надо заниматься генной инженерией человека, то есть взять эволюцию в свои руки и направить её в нужное русло.

Добавление от 12.02.2025 12:52:

Дробышевский об этом немало говорил, например.

ГСиСГПГПГП
Дробышевский об этом немало говорил, например.
он говорил, что мозг стал меньше, но плотнее. Из этого не следует, что человек поглупел. Возможно, что конкретный человек стал меньше знать общего, но в специализации стал гораздо умнее. например, раньше печник - герой, сейчас достаточно изучить схему кладки и научиться класть кирпичь, на что способен почти каждый...

Добавление от 12.02.2025 13:00:

и - да, мы забыли как ставить силки и разжигать огонь. Но и средневековый человек не помнил как нарял в глубины, будучи "русалкой".

Vol
Про глупее тоже говорил.

Добавление от 12.02.2025 13:04:

Есть ещё книга такая, кстати, Хенрик Дж. "Секрет нашего успеха", там про эволюцию человека, как и почему он стал доминирующим видом, и тоже эта тема затронута.

sse2

сделал ли калькулятор людей тупее?

Школьник, который умеет на бумажке в столбик вычислять сложение, умножение, деление, логарифмы, корни и т. д., гораздо умнее школьника с калькулятором, он почти готов сделать этот самый калькулятор без процессора, без памяти, без операционной системы, без языков программирования, без гитхаба, а теперь мы имеем калькуляторы, которые работают на суперкомпьютерах и занимают 500 мегабайт в памяти.

Учёные прошлого, которые составляли таблицы вручную, придумывали всякие численные методы, чтобы не считать в лоб и сделать такие вычисления возможными, гораздо умнее.

Да, калькулятор сделал людей тупее.

И плюс здесь забывают, что для того, чтобы получить вменяемый ответ от ИИ нужно составить правильный запроc.

Уже приходят на работу устраиваться вьюноши - профессиональные составители промтов, обучатели нейросетей, итог печальный, то что в 80 годах прошлого века делали на целочисленном сигнальном процессоре 16-бит 30 мГц, не могут сделать на современных толстых армах 1.5 ГГц о 4-х ядрах с 4 гигабайтами памяти.

ГСиСГПГПГП

Эволюция начала в сторону отупения людей работать, и дальше уже в принципе надо заниматься генной инженерией человека, то есть взять эволюцию в свои руки и направить её в нужное русло.

Именно, зачем такие энергетические затраты по содержанию мозга, теперь ИИ - ваш мозг, а кесарево и ЭКО - ваша репродуктивная система.

Vol

сделав выводы, школьник получит от ИИ новый текст и попытается его творчески переработать, что потребует, как минимум прочитать и поверхностно изучить - вот то что и требуется для школы. станет проф литератором - изучит досконально

Только происходит совсем по другому, даже не школьники начинают везде копипастить нагенерированый ИИ флуд, уровень материала начинает катастрофически падать, что приводит к деградации самого ИИ, при обучении на таких материалах, и надо отбирать и тщательно охранять от загрязнения действительно творческие источники.

Исправлено: petr0v, 12.02.2025 13:42

petr0v
Именно, зачем такие энергетические затраты по содержанию мозга, теперь ИИ - ваш мозг, а кесарево и ЭКО - ваша репродуктивная система.
Только это противоречие. Отупление - это плохо, а ЭКО в принципе это огромное благо, по многим причинам. При дальнейшем усовершенствовании и удешевлении этой технологии (и развитии генной инженерии) она сделает человечество существенно здоровее как минимум, а в перспективе и умнее, красивее и так далее.

Добавление от 12.02.2025 13:41:

ИИ кстати пока ни на какую замену мозга даже отдаленно не тянет, и далеко не факт, что вообще потянет когда-нибудь... Разве что на замену мозга кольчатого червя, или кого там...

ГСиСГПГПГП

а ЭКО в принципе это огромное благо, по многим причинам

Вы хотите чтобы ваш ребёнок умел считать столбиком, имел полноценную репродуктивную систему, чтобы поджелудочная выделяла инсулин, а не завод фармацевтический.

она сделает человечество существенно здоровее как минимум, а в перспективе и умнее, красивее и так далее

Или тем самым червём паразитом, чему в эволюции есть примеры.

sse2
сделал ли калькулятор людей тупее?
Таки да. Люди потеряли навык устного счёта практически полностью.

Хрень полная этот ваш ИИ! Я говорю о DS сейчас.
Попробовал найти через него рассказ. Забиваю тему и ключевые фраз и бинго! - он мне выдает сразу автора и название!
Я вне себя от радости - искал его лет 10 уже! Вот это да!, думаю!
Начинаю искать - хрен там плавал! Нету такого рассказа у автора!

Попробовал еще раз с другим запросом - та же история!

Ну не знаешь - так скажи! Чего врать то! Он названия и суть рассказа просто сам придумывает!

Smithson
почему потеряли то? вот ты можешь пойти впещеру, раздобыть огонь трением, и по наскальной живописи овладеть "навыком устно счета". калькулятор тебе этого не запрещает.

С-4
Ну не знаешь - так скажи! Чего врать то!
Для этого нужно знать что не знаешь.
У LLM как таковой это знание даже может быть (в том смысле что вероятность самого вероятного следующего токена низкая), но обрамляющая обвязка выбирает ответ с потерей степени уверенности в нём, нужны специальные ухищрения чтобы эту информацию вытащить.

будешь как на картинке сверху - самый умный.

Добавление от 12.02.2025 16:13:

я считаю, что калькулятор подарил всему человечеству навык счета. благодаря чему человечество может занятся более полезными задачами и развиваться дальше. осваивать новые навыки. Так же и сейчас ИИ подарил всему человечеству навык думать, больше нам не нужно на это тратить время, и мы можем занятся более полезными делами. это огромный прогресс.
Если кто то сомневается, то скажу иначе, началось все вовсе не с калькулятора, а с того что обезъяна взяла в руки палку. и с того времени прогресс более чем очевиден.

Добавление от 12.02.2025 16:15:

не считаю что если за меня начнет думать ИИ а я сам перестану то стану от этого тупее. Наоборот! вместе с ИИ мы сможем решать значительно более сложные задачи, о которых раньше можно было и не мечтать.

ГСиСГПГПГП
надо заниматься генной инженерией человека, то есть взять эволюцию в свои руки и направить её в нужное русло.

Какое русло нужное?
Кому оно нужно?
Кто решает, что нужно, а что нет и почему именно ему решать?

Эволюция идёт туда, куда идёт и ни у кого не спрашивает.

Добрый Бауманец
Эволюция идёт туда, куда идёт и ни у кого не спрашивает.
Потому что эволюция - не субъект, а процесс, причем во многом случайный и слепой, как следствие творящий много дичи, от которой людям только проблемы.

Кто решает, что нужно, а что нет и почему именно ему решать?
Человек должен решать, а не слепая последовательность случайных мутаций.

ГСиСГПГПГП
Человек должен решать, а не слепая последовательность случайных мутаций.
Гитлер уже предлагал, не все согласились.


Про глупее тоже говорил.
я слышал несколько вариантов от него и везде он не мог сказать что значит "глупее" или "у кого iq выше".
как пример приводил среднего европейца и среднего африканца из саваны. В городе европеец ориентируется и нормально живет, а африканец заблудится и умрет. в саване - наоборот: европеец умрет от голода, а у африканца через пару часов будет еда, костер и жена, что характерно, без калькулятора.

Vol
Гитлер уже предлагал, не все согласились.
Гитлер ещё воздухом дышал, отказываемся?

И Гитлер предлагал совсем не это.

ГСиСГПГПГП
И Гитлер предлагал совсем не это.
именно это: он нашел критерий "правильного человека" и всех мерил по нему.
а в реальности нет "здорового человека", есть недостаточная точность измерений.

Добавление от 12.02.2025 17:37:

ГСиСГПГПГП
Гитлер ещё воздухом дышал, отказываемся?
есть жизненно необходимое, а есть дурь и блажь.

лучше отмените пластическую хирургию - вот главный виновник упадка человечестка. Человек заводя семью абсолютно уверен, что его партнер генетически здоровый человек, а потом выясняется, что его тело на 80% смоделировано, а оригинал страшнее атомной войны.

Vol
а оригинал страшнее атомной войны
И к размножению в исходном виде непригоден.

Vol
а есть дурь и блажь.
В данном случае это такая же "дурь и блажь", как прививки, антибиотики и т.д.

Исправлено: ГСиСГПГПГП, 12.02.2025 19:11

Шимон
Например, школьник не способен, не компетентен написать сочинение, решить задачу, ИИ делает это за него, делает ли он человека умнее?
Зависит от него. Полезность любого инструмента обусловлена способом его применения.

Что называется уход от прямого вопроса Тык если ИИ решает задачи за него (или почти ) , делает ли это его умнее?

em1603
если ИИ решает задачи за него (или почти ) , делает ли это его умнее?
Есть такой момент. Одно дело решить задачу из учебника - это просто.
Но стоит задача поставить задачу для ИИ. Для чего её надо осознать, формализовать, чтобы получить тот результат, который нужен.