Рекомендую данную информацию профессионалам (если такие сюда вообще заходят),
так как она позволяет взглянуть на причины "ошибок" нейросетей с неожиданного ракурса.
Пару лет назад в Институте биологических исследований Солка было проведено исследование «когнитивных способностей» нейросетевых систем на базе больших языковых моделей (Using cognitive psychology to understand GPT-3).
https://www.pnas.org/doi/10.1073/pnas.2218523120
В результате этого исследования фактически было получено сравнение человеческого мышления с «искусственным». Несмотря на отличия от «когнитивной модели», свойственной человеку, в решении отдельных задач, в целом результаты, полученные при тестировании нейросетевых систем, оказались достаточно близкими к тем, которые демонстрирует сам человек. Более того, нейросети оказались свойственны даже «когнитивные искажения», характерные для человека.
Поэтому не вызывает удивления то, что «...способности больших языковых моделей, в частности, способность решать задачи, выходящие за рамки генерации языка, впечатляют. Поэтому эти модели называют по-разному: кто-то считает, что они разумны и демонстрируют форму общего интеллекта. Однако другие полагают, что это просто стохастические попугаи».
Эта цитата сама по себе является наглядной демонстрацией того, что человеческий разум, основанный на принципе «разделения и противопоставления», имеет крайне ограниченные возможности в адекватной «интерпретации» любой информации.
Итак, мы располагаем следующими фактами:
А. Имеется вычислительная модель (GPT-3), основанная исключительно на «статистическом» принципе обработки информации.
B. Данная модель демонстрирует результаты, в целом коррелирующие с теми, которые показывает человек.
C. Для вычислительной модели характерны «когнитивные искажения», свойственные человеку.
Закономерным результатом (В+C) является наблюдаемая склонность человека к восприятию результатов работы вычислительной модели в качестве «интеллектуальных». Результатом (A+B+C) будет вывод о том, что «когнитивные искажения», свойственные человеку, имеют «статистическую» природу. Таким образом, данное исследование подтверждает то, что уже известно, а именно «статистическую» природу большинства человеческих «когнитивных искажений».
Но на этом человеческое «мышление», видимо, не способное сопоставить более двух фактов одновременно, просто останавливается. В результате, когда «специалисты по ИИ» пренебрежительно называют большие языковые модели «статистическими попугаями», они даже не догадываются о том, что сами в значительной степени представляют собой именно таких «попугаев». Между тем, комичность данной ситуации очень точно отражает адекватность человека как «разумного существа».
Только то, что человек способен к рациональным действиям, не является достаточным основанием для того, чтобы отнести его к действительно «разумному виду», так как обладание способностью еще не означает, что она будет использоваться. Поэтому реальная роль интеллекта в человеческой жизни оказывается существенно преувеличенной.
Но даже там, где его использование предполагается как нечто, само собой разумеющееся, например в такой науке, как «когнитивная психология», его присутствие обнаруживается далеко не во всех случаях. Разумеется, любой человек воспримет такую информацию, как к довольно «сомнительную», а многие и вовсе сочтут это «невозможным».
Однако мнимая «невозможность» такой ситуации является лишь следствием «очевидного» для каждого человека представления, «автоматически» превращающего понятия «интеллект» и «наука» в практически тождественные.
В общем представлении «когнитивной психологии» человек — это субъект, обладающий рациональным мышлением, но страдающий от множества «когнитивных искажений». На первый взгляд, такое понимание соответствует действительности, но стоит рассмотреть вопрос более детально, как уверенность в этом исчезает без следа.
Если учесть, что количество только выявленных на данный момент «когнитивных искажений» превышает 500 (пятьсот!), возникает впечатление, что человеческое восприятие само по себе является «искажением». Причем речь здесь идет вовсе не о «субъективности» индивидуального восприятия, избежать которого невозможно в принципе.
Но для начала необходимо прояснить ситуацию с самими понятиями «искажения» или «отклонения». Они предполагают существование правильного, не искаженного варианта. Например, когда говорят, что «корабль отклонился от курса», имеется в виду заранее проложенный «верный» курс. Но что является «верным» в случае человеческого восприятия и мышления?
В «когнитивной психологии» это результат, основанный на «строгой логике». Именно по отношению к нему оценивается все остальное. Но это не что иное, как исключительно «теоретическая» предпосылка, не имеющая никакого отношения к реальности. Закономерным следствием этого является то, что человек превращается в настоящее «ходячее недоразумение», состоящее из одних искажений и отклонений. Однако, несмотря на всю абсурдность ситуации, это никого не смущает. Не исключено, что кто-то сумеет обнаружить в этом «признаки интеллекта», но лично мне это не удалось.
Что касается того факта, что человек, в отличие от «нейросети», обладает значительно лучшей способностью к выявлению причинно-следственных связей, то это ни о чем не говорит, так как практически во всем остальном его возможности не являются «выдающимися». Важно отметить, что способность в данном случае означает именно принципиальную возможность. То, как человек использует ее в реальной жизни, неизвестно. Очевидно, не слишком активно, так как существенного влияния на общую картину наличие такой способности не оказывает. Вполне возможно, что она является просто результатом колоссальной сложности нейронной сети человеческого мозга.
так как она позволяет взглянуть на причины "ошибок" нейросетей с неожиданного ракурса.
Пару лет назад в Институте биологических исследований Солка было проведено исследование «когнитивных способностей» нейросетевых систем на базе больших языковых моделей (Using cognitive psychology to understand GPT-3).
https://www.pnas.org/doi/10.1073/pnas.2218523120
В результате этого исследования фактически было получено сравнение человеческого мышления с «искусственным». Несмотря на отличия от «когнитивной модели», свойственной человеку, в решении отдельных задач, в целом результаты, полученные при тестировании нейросетевых систем, оказались достаточно близкими к тем, которые демонстрирует сам человек. Более того, нейросети оказались свойственны даже «когнитивные искажения», характерные для человека.
Поэтому не вызывает удивления то, что «...способности больших языковых моделей, в частности, способность решать задачи, выходящие за рамки генерации языка, впечатляют. Поэтому эти модели называют по-разному: кто-то считает, что они разумны и демонстрируют форму общего интеллекта. Однако другие полагают, что это просто стохастические попугаи».
Эта цитата сама по себе является наглядной демонстрацией того, что человеческий разум, основанный на принципе «разделения и противопоставления», имеет крайне ограниченные возможности в адекватной «интерпретации» любой информации.
Итак, мы располагаем следующими фактами:
А. Имеется вычислительная модель (GPT-3), основанная исключительно на «статистическом» принципе обработки информации.
B. Данная модель демонстрирует результаты, в целом коррелирующие с теми, которые показывает человек.
C. Для вычислительной модели характерны «когнитивные искажения», свойственные человеку.
Закономерным результатом (В+C) является наблюдаемая склонность человека к восприятию результатов работы вычислительной модели в качестве «интеллектуальных». Результатом (A+B+C) будет вывод о том, что «когнитивные искажения», свойственные человеку, имеют «статистическую» природу. Таким образом, данное исследование подтверждает то, что уже известно, а именно «статистическую» природу большинства человеческих «когнитивных искажений».
Но на этом человеческое «мышление», видимо, не способное сопоставить более двух фактов одновременно, просто останавливается. В результате, когда «специалисты по ИИ» пренебрежительно называют большие языковые модели «статистическими попугаями», они даже не догадываются о том, что сами в значительной степени представляют собой именно таких «попугаев». Между тем, комичность данной ситуации очень точно отражает адекватность человека как «разумного существа».
Только то, что человек способен к рациональным действиям, не является достаточным основанием для того, чтобы отнести его к действительно «разумному виду», так как обладание способностью еще не означает, что она будет использоваться. Поэтому реальная роль интеллекта в человеческой жизни оказывается существенно преувеличенной.
Но даже там, где его использование предполагается как нечто, само собой разумеющееся, например в такой науке, как «когнитивная психология», его присутствие обнаруживается далеко не во всех случаях. Разумеется, любой человек воспримет такую информацию, как к довольно «сомнительную», а многие и вовсе сочтут это «невозможным».
Однако мнимая «невозможность» такой ситуации является лишь следствием «очевидного» для каждого человека представления, «автоматически» превращающего понятия «интеллект» и «наука» в практически тождественные.
В общем представлении «когнитивной психологии» человек — это субъект, обладающий рациональным мышлением, но страдающий от множества «когнитивных искажений». На первый взгляд, такое понимание соответствует действительности, но стоит рассмотреть вопрос более детально, как уверенность в этом исчезает без следа.
Если учесть, что количество только выявленных на данный момент «когнитивных искажений» превышает 500 (пятьсот!), возникает впечатление, что человеческое восприятие само по себе является «искажением». Причем речь здесь идет вовсе не о «субъективности» индивидуального восприятия, избежать которого невозможно в принципе.
Но для начала необходимо прояснить ситуацию с самими понятиями «искажения» или «отклонения». Они предполагают существование правильного, не искаженного варианта. Например, когда говорят, что «корабль отклонился от курса», имеется в виду заранее проложенный «верный» курс. Но что является «верным» в случае человеческого восприятия и мышления?
В «когнитивной психологии» это результат, основанный на «строгой логике». Именно по отношению к нему оценивается все остальное. Но это не что иное, как исключительно «теоретическая» предпосылка, не имеющая никакого отношения к реальности. Закономерным следствием этого является то, что человек превращается в настоящее «ходячее недоразумение», состоящее из одних искажений и отклонений. Однако, несмотря на всю абсурдность ситуации, это никого не смущает. Не исключено, что кто-то сумеет обнаружить в этом «признаки интеллекта», но лично мне это не удалось.
Что касается того факта, что человек, в отличие от «нейросети», обладает значительно лучшей способностью к выявлению причинно-следственных связей, то это ни о чем не говорит, так как практически во всем остальном его возможности не являются «выдающимися». Важно отметить, что способность в данном случае означает именно принципиальную возможность. То, как человек использует ее в реальной жизни, неизвестно. Очевидно, не слишком активно, так как существенного влияния на общую картину наличие такой способности не оказывает. Вполне возможно, что она является просто результатом колоссальной сложности нейронной сети человеческого мозга.
Исправлено: AIUser, 21.02.2025 09:22
Подразумевает достаточно высокий уровень образования. Или использование ИИ в соответствующем режиме 
вставить выделенную цитату в окно ответа