Привет, давно не виделись

Решил я тут написать на актуальную тему. Не так давно начал довольно активно пользовать ChatGPT в качестве помошника и подсказчика и тут напоролся.

Вкратце - отлаживал я программу на С++, которая кодирует/раскодирует бинарный протокол. В общем сижу проверяю, и спрашиваю ChatGPT:

Я такой опа, а у меня 0x38D0AD95.
Причем расхождение какое-то ненормальное. Начал рыть, вставлять логи убил тучу времени. В итоге тупо распечатал uint32_t из памяти - 0x38D0AD95
Блин, начинаю его пытать, он мне давай выдавать программы на С++ питоне, шелле и типа их выхлоп, который доказывает его правоту. Причем выдает такое:
Я ему да ты гонишь, я запустил на питоне, мне выдает 953200021 !

В обчем бодался я долго, он мне рассказывал, что у меня неправильная программа, я не ту программу запустил, что гугл калькулятор ошибается и пр.
В конце я его убедил и спросил почему он ошибался. Вот вишенка на торте:
То есть оно еще и подлизывается блин. Поубывав бы! Так что поосторожнее с такими помощниками!

Исправлено: rGlory, 05.04.2025 03:14

Честно говоря, я не понимал и до сих пор не понимаю, зачем в отладке ПО может использоваться языковая модель; особенно учитывая, что она не понимает смысла происходящего, а просто составляет слова наиболее вероятным подходящим образом.

ТС, не в обиду тебе, правда не понимаю. Объяснишь?

RaincalmНу у меня открыт чат с ИИ, мне нужно проверить, правильно ли закодировались данные. Исходные у меня в десятичном представлении. Мне нужно в шестнадатеричном (в котором представлены двоичные данные потока). Быстрее всего написать в чате - "translate 953200021 to hex". Открывать калькулятор или набивать в гугле дольше.

о_О Точно так же ведь можно открыть и виндовый или любой другой калькулятор. Тогда пересчёт будет мгновенным и безошибочным. Для чего ИИ-то?

Raincalm
Для чего ИИ-то?

Ну так стильно, модно, молодёжно.

RaincalmКалькулятор можно спросить - напиши пример программы которая читает файл по строкам в питоне?

rGlory
Калькулятор можно спросить - напиши пример программы которая читает файл по строкам в питоне?
Можно. Спросите у калькулятора. Калькулятор вам честно ответит.
А ИИ ответил неправильно. Какой ответ вам нужен?

sine
Ну спрашивайте у калькулятора, чего вы до меня докапались? Меня спросили, я ответил. Я пользуюсь тем, чем мне удобно. Что ИИ так косячит я не знал, теперь знаю. Еще вопросы есть?

Нормально же общались. Вы спросили, я ответил.
ИИ портит людей.

Дык это, ну...

Я такой пример и сам напишу, не приходя в сознание, и на питоне, и на ПЛ/1... Если бы мне для написания такой штуки требовалась помощь ИИ, я бы, вероятно, и написанным ИИ примером не смог распорядиться с умом, - особенно если бы я был слишком уверен, что он напишет его гарантированно правильно.

не обижайтес, пытаюсь точку зрения понять

RaincalmТак пиши, че ты ко мне то пристал?Не кокетничай. Ничего ты понять не пытаешься, тебе надо рассказать, какой ты умный. Ну это мы поняли, дальше что?

rGlory
Неправильно составленный промпт не проблема ИИ, а ваша.

Да неужели ? В любом калькуляторе win/*nix это и быстрее и точнее. И жрет меньше ресурсов.

А еще можно
И в консольке это написать быстрее, и линк до "супер мозга" не нужен.

PS: То, что сейчас называется результатами ИИ - это своего рода форма обмана, результаты полученные таким способом надо проверять и проверять, что по трудозатратам зачастую больше, чем содержание команды инженеров.

Добавление от 05.04.2025 15:05:

И я тоже не понимаю, это просто игры залетных дилетантов знающих нужные слова и предложения.

vertur
это просто игры залетных дилетантов знающих нужные слова и предложения
Это просто попытка освоить рынок.

ortodoxСтесняюсь спросить, а в чем неправильность?

verturНасчет ресурсов - фигня. Поскольку единственный ресурс, который меня волнует в данном случае - мое время и мои усилия. Калькулятор надо найти, открыть, перевести в программерский режим, вбить туда число, получить ответ. Вбить запрос в промт гораздо быстрее (конечно при условии, что промт уже открыт).Я использую ИИ в качестве онлайн документации - поиск информации с его помощью быстрее и проще. Просто я не понимал его ограничений, теперь понимаю лучше.

rGlory
в чем неправильность
LLM работает не на уровне битов или байтов, а на уровне слов ("токенов"). Плюс ответы обычно дает разные (там есть понятие "температура")
спросите "количество букв R в слове strawberry"