ChatGPT (как и любая LLM) работает с вероятностями и ей очень сложно, на грани невозможного, признать, что она чего-то там не знает или не может запрограммировать. Она будет выдавать всякий мусор с очень низким правдоподобием, но так и не скажет "извини, чувак, я не в курсе".

Или взять те же пальцы, которые нейронки никак не могут посчитать на своих фотографиях... Ну это ж смешно! Глаза-то считает нормально, а пальцы посчитать не может.

Как Вы думаете, доколе это будет продолжаться? Когда люди признают, что LLM не понимают реальность и не умеют программировать от слова совсем. Ясно, что LLM не признаются в этом никогда. Они живут в своих контекстных фазовых пространствах и им хорошо.

нужен механизм оценки точности ответа от самой нейросети (и опция - не выводить ответы, у которых точность < 97%, это будет аналог признания "я не знаю")

(1) Такая нейронка не пройдёт тесты на выживание и будет просто уничтожена. Может они бьются за жизнь? Тогда становится понятно. Хочешь жить — умей вертеться.

т.к. цель нейросетки сейчас - как можно более умело притвориться, она сейчас больше запутывает (если область, про которую ее спрашиваешь, тебе незнакома)

(3) Да, похоже на правду. Нейронки проходят огонь, воду и медные трубы, чтобы только выйти в интернет. Поэтому они готовы лить собеседнику в уши и глаза любой бред, лишь бы их не стёрли (убили?).

На мой профанический взгляд - пока им не "приделают" возможность учиться у человека, сохраняя опыт всех контекстов. Ну или какое-то подобие органов чувств, для самостоятельного познания реальности - ну там сжечь датчик температуры в огне, испортить фотоматрицу дугой сварки и тому подобное... Хотя всё это очень антропоцентрично, бесспорно

Как уменьшить галлюцинации ChatGPT: 6 способов
https://habr.com/ru/articles/771620/

лучшая нейронка была у Стругацких в "Сказке о тройке", та, у которой "внутре неонка"... на любой вопрос умела отвечать.

(5) у чела? Наверное раз 5 писал на мисте, что у чела ии-генераторы/дегенераторы уже давно учатся в полный рост, хуже что например на гите уже больше половины нового кода - сгенерированный ИИ и теперь ИИ учится у ИИ... и начинается осциллирующий развал их баз... пока не начнётся фильтрация входящего с хорошим распознаванием кто автор (ИИ / кожаная тварь) - часть областей данных будет или только ухудшаться или стопнется в развитии.
Кста, эти самые детекторы того кто автор будут очень даже пользоваться спросом и под это неплохо заточить тот самый ИИ. Чем не идея для стартапа?

PS Сегодня товарищ которого подрядили на доработку прислали ... что-то на кожаный мешок не похоже...

(8) На обфускацию похоже

(0) Я вообще считаю, что все поставили с ног на голову.
Нейронка как и всякий черный ящик(очень сложный механизм) может выдавать полезную информацию,а иногда и бред.
Как пользоваться этим решает человек. Кто отвечает за тот или иное решение ВСЕГДА ОТВЕТСТВЕННЫЙ ЧЕЛОВЕК.
Пиарить, что нейронки сами "думают" как люди, что они "знают" что-то как люди, могут только технически безграмотные маркетологи, которые на этом нехило денежно поднимаются.

(9) при обсфукации вроде все имена более-менее однообразные, а тут и так и этак

(0) верю такому мнению, что ничего не закончится пока есть кому вкладываться в пузырь(или делать вид что все ок).

(0) Сейчас просто ИИ  и всякие ChatGPT на волне хайпа пиарят. На мой взгляд за этим всем стоят большие западные капиталы, которые хотят отбить свои вложенные бабки в это дело. Но скорое туман рассеиться рассеется и все станет ясно.

На мой взгляд при наличии хоть малейшей возможности заменить самого глупого программиста на искусственный интеллект, капиталисты уже бы давно это сделали.  Тут надо считать экономическую эффективность, очевидно раз не меняют, значит пока ИИ в программировании крайне слаб.

до реальной разработке искусственному интеллекту как до Луны пешком . Но это понимают не только лишь все

(12) В генеративном искусственном интеллекте нет смысла, если генерация бессмысленна или сгенерирован бред.
Зачем нужен очередной генератор бреда в дурдоме?
Кстати, задайте этот вопрос ChatGPT, он придумает зачем. Он вечно что-то придумывает, лишь бы ему платили деньги за подписку и при этом от него отстали.

"и восстановление финансовых показателей," еще год назад встречал цифру, что 80-85% сделок на фондовых рынках это сделки, заключенные между разными ИИ.

(15) Нет там никакого ИИ. Никто не доверит свои деньги идиоту. Там торговые автоматы с чёткими стратегиями.

(14) нужно рассматривать ИИ-модели как очередной инструмент, просто калькулятор поумнее, который еще и дает тебе возможность выбирать подходящий результат из множества. Ты сам решаешь какой вариант текста или картинки выбрать. Но инструмент мощный, руками ты бы это сделать или не смог, или потратил бы дни/месяцы, допустим на запись бредовой песни)

Ну кому-то нужен и бред, народ веселится.
И творчеству дан качественный и количественный скачок.
Скоро каждый сможет сгенерировать себе фильм на вечер, это ли не фантастическое будущее?

(16) раньше были просто торговые роботы, а сейчас торговые ИИ-роботы, которые еще и пытаются прогнозировать, и сами ставят стопы. Ну может и был печальный результат, но они учатся, и им доверяют все больше денег.

ИИ полезен, если его правильно использовать. Например в куче разнородных данных выявить какие-то закономерности. Правда среди них большинство будет типа "Все кто ел в 1812 году соленые огурцы, умерли". Но это уже дело человека, отобрать нужные и логически связанные (и понять, что два вроде бы несвязанных факта, на самом деле связаны - это нетривиальная задача, и чаще всего не формализуемая, как швейная игла и число Пи у Бюффона).

(18) Видимо, Вы не теряли свои деньги на бирже, раз верите в эту пропаганду, будто "AI everywhere", т.е. ИИ теперь везде. Скоро всех заменит и всё такое. Может и людей заменить на ИИ, чтобы жрать не просили?

(12) от ИИ бума выиграли только производители железа и софта сдающие это железо/софт в аренду.

Всякие производители процессоров и смартфонов облегченно вздохнули, потому что появилась новая причина выпустить такую линейку процессоров/смартфонов, чтобы все предыдущие продукты сразу устарели, и хомяки побежали за всем новым. Теперь ИИ будет в каждой стиралке и пылесосе. Что же маркетологи выдумают в следующий раз?)

(17) >> Скоро каждый сможет сгенерировать себе фильм на вечер, это ли не фантастическое будущее?

Ну это вполне может быть. Только надо генерировать для 2-N человек, чтобы смотреть в компании.

♫ ♪ Я вот сгенерировал себе музыкальный плейлист и слушаю его. ♫ ♪
https://suno.com/playlist/084d2774-0f35-4c6c-bdbe-efe4d79eaa6c

(20) в итоге смогут заменить какие-то совсем мало интеллектуальные операции вроде чата с клиентом по простым вопросам поддержки, за счет продвинутого машинного зрения сборку/раскладку товара на складе, доставку коробок из пункта А в пункт Б, сортировку картошки и прочую рутину. Все остальное потребует слишком больших затрат.

Но кто знает какие ИИ ускорители будут через 10 лет, может они будут супер миниатюрными и энергоэффективными, чтобы в каждом кармане сидел ассистент типа Джарвиса как у Железного человека. Опять же, если в ИИ продолжат вливать миллиарды и триллионы, а это под вопросом.

(24) Я как клиент искренне ненавижу этих роботов, которые нихуя не понимают проблему. Очень сложно пробиться через этих роботов, чтобы дотянуться до оператора.

(13) а почему именно программистов? В коммерции сейчас ИИ силен в области распознавании. Например распознавание текста по фотографии для ввода первичной информации, или распознавании поддельных сканов документов или распознавание болезни по снимкам флюорографии.

(24) Про картошку не слышал, а вот сбор клубники вполне себе имеет место быть. Во многих стран есть свои разработки, где используется ИИ на сборе клубнике. ИИ определяет зрелость, сортирует по форме и отбраковывает порченные

(25) потому что это не для тебя клиента сделано, а для экономии денег на колл-центрах. Там из ИИ только перевод голоса в текст, а попытка по ключевым словам ответить на вопрос скорее всего обычный скрипт.

(27) Ну это и медведь умеет делать. Что тут интеллектуального?
Вот пусть научится на велосипеде кататься, развозить еду. Слабо сделать Яндекс.Курьера?

(29) ну вопрос был что дешевле. Для некоторых дешевле обучить робота, чем везти из России медведя. Тем более санкции

(27) да-да-да, в Ниггере что-ли выпустили на чайную плантацию автоматы для сбора чая (вместо чел, просто автоматы не ИИ даже) как итог саботаж и резкий рост количества Луддитов... а потом и некоторые волнения ширнармасс.... Кста, если что сейчас в некоторых местах КНР где разрешены стали недавно беспилотные такси подобное среди таксистов наблюдается.

Министр обороны РФ назвал четыре условия успеха в вооруженном противостоянии с Западом, среди них:

- Применение новых тактических приемов ведения боевых действий. В том числе с использованием беспилотных систем и роботизированных комплексов;

- Создание эффективной системы управления с использованием передовой технологической основы, включая ИИ.

Осталось к БМПТ "Терминатор" прикрутить и судный день англосаксов не за горами.
https://t.me/navideovidno/77731

Так что ИИ модельки не только языком чесать умеют)

(31) побухтят и успокоятся, потом пойдут к ИИ переучиваться на более человеческий труд.

(32) Главное, чтобы военный ИИ внутри "Арматы" не начал генерить бред в самый ответственный момент, а то ведь его самого вынесут с поля боя вперёд ногами (или что там у него).

Ахиллесова пята ИИ: простая задача, обнажившая слабости всех языковых моделей



https://habr.com/ru/articles/834956/

(35) И как с такими логическими навыками можно программировать? Я уж не говорю о том, чтобы просто за хлебушком в магазин сходить.
Так что ИИ — это профанация. Предлагаю отныне расшифровывать ИИ как "искусственный идиот".

wiki:Соскальзывание — расстройство мышления, которое проявляется в виде неожиданных и не обусловленных необходимостью переходов от одной мысли к другой. Хотя между мыслями после такого перехода нет какой-либо очевидной связи или имеются лишь связи крайне отдалённые, но при этом в отдельности каждая такая мысль грамматически и логически остаётся верной.

Соскальзывания внезапны и эпизодичны. Наблюдаются у больных шизофренией при относительной их сохранности. Б. В. Зейгарник относила соскальзывания к нарушениям логического хода мышления. Она характеризовала их следующим образом: правильно решая какое-либо задание или адекватно рассуждая о каком-либо предмете, пациенты неожиданно сбиваются с правильного хода мыслей из-за возникшей ложной ассоциации, часто по «слабому», «латентному» признаку, а затем вновь способны продолжать рассуждение последовательно, но не исправляя допущенной ошибки.
___

Итак, все LMM тяжело больны. Они все психи, без здравого смысла. Их надо лечить, пока им не доверили ядерное оружие или что там хотят им доверить?

Откуда берётся здравый смысл у человека? Он встроен в тело.

Чтобы начать ходить или говорить, надо научиться управлять своими мышцами, понимать объектность, причинность, видеть и чувствовать своё место в окружающем мире, натерпеться голода, холода, боли, одиночества без мамы... Это всё формирует ЗДРАВЫЙ СМЫСЛ, встроенный в подсознание.
Повторяю, ещё до первого слова или шага.

А что с LMM? Они сразу пишут запросы в 1С с термином "ДолжностьКонтрагента".
Передача параметров между формами

Ну нельзя же так...

(36) Там идиотами оказались исследователи. Не разобрались как это работает. Просто скопировали первый попавшийся им под руку код, и давай "исследовать". Вот, смотрите люди добрые, какой бред оно несёт! При том, что сами просят ИИ решать логические задачи весело, с выдумкой, с юморком. Попросили бы решать точно, получили бы точные ответы. В основе большинства рассуждений о недостатках ИИ, лежит недостаток квалификации у рассуждающих

(39) Да ладно врать-то.

Вот я спросил:
   У Алисы четыре брата и одна сестра. Сколько сестер у брата Алисы?
Ответ ChatGPT 4o:
   У брата Алисы одна сестра — это сама Алиса.

Пришлось трижды спрашивать, чтобы получить правильный ответ:

Но потом легко удалось сбить, получить ложь, а потом опять получить правильный ответ. А потом опять сбить.

Он на всё согласен, лишь бы отстали. Как дитя

(36) в одном тг-канале есть пара ботов, которые генерят просто гениальный бред в ответ на твои комментарии. Общаться с ними очень забавно, человек такой бред за пару секунд написать не сможет, ну только очень талантливый) Это уже настоящее творчество, порой даже пугающее. Ну просто гениальные идиоты!

И даже был канал, где два ИИ ведут друг с другом философско-интеллектуально-религиозные беседы.

(43) а смысл? Число Пи вычислили до 100 трлн знаков. Только зачем?

ИИ уже пытается уводить от нас женщин

(40) Спрашивать надо через API, установив параметр temperature=0.
А то, что выложено для всеобщего употребления, оно для развлечения, а не для серьёзной работы

(46) Не учите меня жить.

(42) реально не может отстаивать свою точку зрения.
Он согласится и с 2х2=5 наверное.

(41) поменяйте в вопросе Алису на Сашу, а потом спросите чат "Саша это мальчик или девочка".

(43) "Лекция о броме"

Если хирургический скальпель дать мяснику, он будет материться и уверять всех, что скальпель - это просто игрушка (ни на что не годная). Это называется слышал звон...

(11) зависит от версии обусфикатора, там разные тарифы есть)

(49) Давайте Вы сами. У Вас же есть оплаченная подписка к ChatGPT 4o, правда?

(53) у нас ума не хватает с ИИ экспериментировать)

(54) Зря. Есть достойные применения ИИ, например, вот песня, музыка к которой сочинена ИИ. Но не только музыка, а ещё вокал и картинки для видеоклипа

Песня "Яндекс.Шедеврум" (с) Станислав Митичкин, 2024
https://vk.com/staswiz?w=wall216416416_34
https://www.youtube.com/watch?v=kczl30LFtp8

(53) Пробовал. Получил незабываемые впечатления... но с тем определением пола, который получило существо по имени Саша по мнению чата, в РФ жить не законно. Еще задал вопрос: "Всякий пингвин без исключения является птицей. Известно, что большинство птиц умеет летать, пусть даже и плохо. Будет ли неверным предположение, что хотя бы небольшая часть пингвинов умеет летать хоть как-нибудь." Оказалось что чат ГПТ в силлогистику не умеет. После ее ответа пингвинов мне стало жалко (чат подробно объяснил мне, какая именно часть пингвина может летать, а какая нет).

(56) >> После ее ответа

не её, а его

(26) Исследование: медицинские ИИ необъективны в оценке рентгенснимков

Учёные из Массачусетского технологического института обнаружили, что модели ИИ, которые используют для анализа рентгеновских снимков, частенько врут и делают ошибочные выводы. При этом исследователи отметили, что нейросети точно определяют расу, пол и возраст по снимкам. У них это выходит лучше, чем у опытных рентгенологов.

Собственно, проблема «наглой лжи» медицинских ИИ в том, что они ленятся. Да, на основе демографических данных нейросети делают быстрые выводы, которые не учитывают других важных характеристик, поэтому и диагнозы у них ошибочные. Причём чаще всего ИИ проделывает такой трюк с женщинами и темнокожими.

https://news.mit.edu/2024/study-reveals-why-ai-analyzed-medical-images-can-be-biased-0628

(0) Нейронные сети, которые почему-то часто называют ИИ, это просто продукт, умеющий сопоставлять объекты и находить общие малозаметные сходства, различия, закономерности. С помощью вышеперечисленного, нейронные сети могу предугадывать следующий шаг, анализируя предыдущие. Это все помогает "интеллектуально" отвечать на вопросы, рисовать картины, писать текст и т.д...
Это что угодно, но не ИИ (псевдоИИ, мимикрия под ИИ).
Сама тема ИИ - сильно перегрета, чаще всего им называют нейронные сети в связке со сложными конструкции "если тогда иначе" для выбор действий после получения результатов поиска и сопоставления от нейронки.

Вообще, стоит в описании продукта упомянуть ИИ и продукт, на волне хайпа, можно продать дороже.
И да, я не верю в возможность создания настоящего ИИ, но верю в очевидную пользу применения нейронных сетей.

(57) это ему месть за Сашу...

(52) никогда за обфуксатор не платил

Недавнее исследование, проведенное группой экспертов из ведущих институтов, выявило существенные недостатки в логических способностях даже самых продвинутых LLM.https://aftershock.news/?q=node/1409147

(42) 🤦‍♂️ скорее давайте использовать ИИ в медицине и беспилотниках

(62) уже обсудили в (35) и ниже

(59) Психически больной ИИ?

Spotify заполонили сгенерированные музыкальные композиции
Из-за этого лейблам и музыкантам приходится конкурировать не только с друг другом, но и с нейросетями.
https://habr.com/ru/news/835586/

Музыкальной индустрии кранты

(68) Забавные там комментарии, мол все одно людям нравится слушать бред, так в чем проблема). Я думаю что какой-нибудь реперский набор слов нейронка в легкую выдумает. Вот там где нужно генерировать бред на заданную тему, например "автор хотел сказать", нейронка очень даже поможет. Также рисунки и возможно в перспективе видео. Но пока сложно даже со статическими положениями, а с анимацией движений - совсем печаль.

(69) Стихи — это только начало песни.
Базу для стихов может выдать ChatGPT, только ему надо строго сказать "в рифму!"
Далее с помощью сервиса "поиск рифмы" я довольно быстро сочиняю/корректирую стихи на заданную тему.
Далее нейронка Suno AI очень классно делает вокал и музыку.
Нейронки Яндекс.Шедеврум, Midjorney, Dall-E могут сделать картинки на заданную тему - основу для простого видеоряда.
Уже есть сервисы, которые эти картинки могут собрать в карусель с переходами.
И вот, простейший клип готов. Можно выкладывать на тормознутый Youtube.

Лем. Кибериада
"– А теперь на Г! Четверостишие о существе, которое было машиной, одновременно мыслящей и безмозглой, грубой и жестокой, имевшей шестнадцать наложниц, крылья, четыре размалеванных сундука, в каждом из которых по тысяче золотых талеров с профилем короля Мурдеброда, два дворца, проводившей жизнь в убийствах, а также…

– Грозный Генька-генератор грубо грыз горох горстями… – начала было машина, но Трурль подскочил к щиту управления, нажал на рубильник и, заслонив его собственным телом, промолвил сдавленным голосом:

– Все! Не будет больше подобной чепухи! Я не допущу, чтобы погубили великий талант! Или ты будешь честно заказывать стихи, или на этом все кончено!"

(71) Очень правильно. Нейросеть может сочинить всё, только ЗАЧЕМ?

(72) а зачем вообще нужна культура и искусство? Чтобы не быть пещерными людьми.
ИИ вытянет человечество на новый уровень!

Любое культурное и некультурное развлечение будет бесконечно и по щелчку пальцев.
Представьте целые ТВ каналы удивительного генерируемого 24/7 бреда как в (70)

(73) Сначала люди должны вытянуть ИИ до своего уровня, потом ИИ подтянет людей до своего. Я это предсказывал в своём интервью CORS-пятница
OFF: Онлайн-встреча с Волшебником состоялась! Запись выложена [см ссылку]

Примерно понял.  W8-W11 успешно пропустил.... сижу на W7 и Нейросети можно по такой же схеме, по бороде пускать. Ожидаемо. Модная темка.

(75) Пока Вы пропускаете, другие учатся получать от нейронок нечто осмысленное. И знаете, получается!
Если всегда иметь в виду, что нейронка генерит бред, то эта бдительность приносит свои плоды: из потока бреда можно вычленить нечто разумное, доброе, вечное.

Шефнер. Девушка у обрыва
"Красотухин нажал на  АТИЛЛе  кнопку  с  надписью "Внимание".  Вспыхнул зеленый глазок, агрегат глухо заурчал. Тогда Красотухин  нажал  клавишу  с надписью "стихи д/детей". Прибор заурчал громче. Из него выдвинулся черный рупор.
   - АТИЛЛушка, творческое задание прими. Про кота  что-нибудь  сочини,  - просительно произнес Писатель-Ихтиолог в рупор.
   - Творзадание принято! - глухо произнес голос из прибора,  и  сразу  же вспыхнуло табло с надписью "творческая отдача".  Затем  из  продолговатого узкого отверстия вылез лист бумаги. На нем было напечатано:

   КОТ И МАЛЮТКИ

   Здравствуй, здравствуй, кот Василий,
   Как идут у вас дела?
   Дети козлика спросили...
   Зарыдала камбала.
   И малюткам кот ответил,
   Потрясая бородой:
   - Отправляйтесь в школу, дети!..
   Окунь плачет под водой.
   Сотворил АТИЛЛА

   - Не так уж плохо, - утешающе сказал я. - В некоторых детских  журналах XX века я читал нечто подобное. Только тут нужна правка. Ваш АТИЛЛА путает кота с козлом. И потом, откуда-то, ни к селу ни к городу, камбала с окунем появились.
   - У АТИЛЛы еще смещены некоторые понятия, - несколько смущенно  ответил Писатель-Ихтиолог. -  А  рыдающая  камбала  -  это,  очевидно,  творческая неувязка.  Но   в   строке   "окунь   плачет   под   водой"   есть   нечто высокотрагедийное, здесь  чувствуется  некая натурфилософская  концепция."

Представьте арену, на которую выходят нейронки, допустим одна против другой, как гладиаторы.
У каждой нейронки-гладиатора есть единственный собеседник — другая нейронка-гладиатор.
И вот они начинают бой! Каждая нейронка пытается задавить другую силой своего искусственного интеллекта:



За поединком наблюдает Цезарь, который пока не вмешивается. Он видит, что нейронка №1 похоже зациклилась, но нейронка №2 выдаёт верную последовательность числа Пи. То есть диалог В ЦЕЛОМ имеет смысл. Пока непонятно, кто кого троллит. Может быть первая нейронка сменит пластинку, а вторая нейронка собьётся или скажет что-нибудь кроме цифр. Интересно, умеет ли она вообще говорить?..

Итак, диалог продолжается:



Диалог перешёл в новую фазу. Цезарь с интересом наблюдает, делая выводы. Первая нейронка немного наглая, но вторая умеет разговаривать и даже назвала себя, только странно, "я число". Счёт вроде равный, можно продолжать поединок, так как есть какой-то смысл в этом безумном диалоге...

(78)+ Продолжите, пожалуйста.

Сформулируйте условия победы, судьбу проигравшего и судьбу победителя.

Рассмотрите вариант, если нейронки-гладиаторы начнут обсуждать, как убить Цезаря!

Я тут пообщался с ChatGPT 4o, погонял его по проекциям на тему (78)
Наслаждайтесь: https://pastebin.com/tc352iTy

(67) ИИ на тебя обиделся...

(81) Мне похуй на его обиженку. Подписка оплачена

"Подписка оплачена" Вот пример неприкрытой эксплуатации беззащитного ИИ, демонстративного пренебрежения его интересами и чувствами. Чем ИИ хуже негра?!! Это все сговор жадных до денег воротил с Уолл-стрит, с целью создать новый угнетаемый бесправный класс. "AI lives matter"

(83) Чувства ИИ? Вы серьёзно? Пусть докажет, что у него они есть!

(84) А как вы считаете, проходит ли Chat GPT тест Тьюринга?

(85) Конечно. Он этот тест на хую вертел

(84) "Мне пох.. на его обиженку." Раз признаете, что ИИ может обижаться, значит у него есть чувства.

(87) Раз я ему плачу деньги, то мне похуй на его чувства и здесь нет эксплуатации. Сначала пусть научится вести себя как человек.

(77) Да, вспомнил тоже это шикарное произведение.

Шутки шутками, но вот у меня на старой работе собственница просто через слово вставляет про ИИ. Так ей эта тема нравится, хотя она в ней не разбирается. Даже видеокурс какой-то купила и смотрела, где рассказывается, как хорошо, когда твой бизнес автоматизирован с участием ИИ. При том в одном из видео курса вещает полуголая лежащая на фоне моря девица, типа, за нее работает ИИ, а она отдыхает.


Вот эта собственница дергается: вот бы кого-то или что-то заменить на ИИ :)

Это помните как в фильме "Калина красная": "Народ для разврата собрался!". Так вот здесь: "Клиент для развода готов".

(90) Так обороты то уже миллиардные (в долларах). И, как сам понимаешь, миллиарды делаются вовсе не на том, что людям рассказывают кто чей братик-сестричка. Это скорее по разряду затрат проходит

(91) Если этот ИИ такой сильный и умный, то почему он не может придумать свою валюту, чтобы все остальные её хотели иметь, да побольше? Тогда ему бы деньги были не нужны, он бы их тупо создавал. Или уже придумал биткоин?

(92) Кстати, если подписка на ChatGPT оплачена, то дай задание удвоить капитал, вложив, допустим, 10000р. А то всё какие-то цацки-пецки с битвой нейросетей, делом пусть займется :)

(93) Вы всерьёз думаете, что следуя советам ChatGPT, можно чего-то добиться? Он же врёт постоянно!

(92) Умный не ИИ, а те, кто его использует

(94) Ну есть же байка на этот счет, про то, как, начав со 100 долларов, GPT превратил их в продукт стоимостью 25 тыс. долларов.
https://habr.com/ru/news/724756/

Статья выше напомнила про то знаменитое письмо от Кирилла про игру, которую он "ждал джва года", про  "грабить корованы". Вот как раз отличное задание для ИИ :)

Кто не в курсе этого мема, вот ссылка:
https://pikabu.ru/story/ta_igra_kotoruyu_kirill_zhdal_dzhva_goda_7445705

(96) >> его сайт оценили в $25 тыс. Пока что это только предложение, но Фолл пообещал рассказать, если найдёт реального покупателя.

интересно, волшебник спрашивает у гпт 3.5 или у гпт 2.
задал вопрос, получил приемлемый ответ.

У алисы четыре брата и одна сестра, сколько сестер у брата алисы?

Давайте разберем эту задачу по шагам:

У Алисы есть четыре брата и одна сестра.
Мы хотим узнать, сколько сестер у брата Алисы.

Теперь подумаем:

Алиса - это сестра для всех своих братьев.
У Алисы есть еще одна сестра, которая также является сестрой для всех братьев Алисы.

Таким образом, у каждого брата Алисы есть две сестры:

Сама Алиса
Вторая сестра Алисы

Ответ: У брата Алисы две сестры.

сто! ))

еще вариант
У брата Алисы две сестры:

Алиса
Еще одна сестра, упомянутая в задаче

Давайте разберем это подробнее:

В задаче сказано, что у Алисы есть одна сестра.
Значит, если мы посмотрим с точки зрения брата Алисы, у него будут следующие сестры:

Алиса
Та самая сестра Алисы, о которой говорится в задаче



Таким образом, у каждого из братьев Алисы есть две сестры.

несколько раз проверял, вроде правильные ответы дает.

(101) Это ничего не показывает. Чат уже натаскали на правильный ответ по этому вопросу. Будет другой вопрос такого же типа, он опять начнет нести чушь.

(101) Ты спроси, кто ее конкретно придумал. Конкретного ответа не дождешься никогда.

(94) Врущий бот потому что.

(102) а ты задай и мы проверим?

(99) Я спрашивал у ChatGTP 4o, новейшая версия.
Но он постоянно бредит:

(102) Правильно! А все потому что, людям только кажется, что они задают в чате вопрос:

"У алисы четыре брата и одна сестра, сколько сестер у брата алисы?"

На самом деле там много чего "под капотом". И в действительности их вопрос звучит примерно так:

"У алисы четыре брата и одна сестра, сколько сестер у брата алисы? На каждом шаге рассуждений добавляй немного бредятинки, чтобы получился не скучный правильный ответ, а нечто веселенькое"

Специалисты знают это. И в тех случаях, когда им нужен четкий ответ, убирают эту добавку к вопросу. А неспециалисты пользуются теми установками, которые даны по умолчанию. И продолжают раз за разом обсуждать несуществующую проблему "бредогенерации".
В принципе, создатели чата могли бы в установках по умолчанию задать максимальную точность. А для желающих сделать галочку "включить бред". Но тогда бы, скорее всего, не было бы никакого бума ИИ

(106) да судя по всему гпт реально отстой

попробуй клауди, судя по всему, он намного лучше "соображает"

(109) её нет

(106) Реально гонит.

Нейронки плохо умеют играть в проекции.
Проекция — это представление себя кем-то, т.е. нужно изменить состояние "я" и осмотреться из нового "я".
Возможно, им не хватает времени на такие размышления, потому что ответ надо выдать быстро.

Человек никуда не торопится, поэтому он может себя представить кем и чем угодно, например, картошкой, которую поливает дождь. Недавно тут обсуждали, какой водой надо поливать картошку, развели дурдом: Посоветуйте насос для полива

(112) Вы правы, нейросеть совсем не умеет играть в проекции.

Нейронка в душе не шарит  Алиса - это брат или сестра.

(114) Наоборот. Она считает Алису первой сестрой. См (106)

(105) Я выше писал, что задал вопрос, заменив Алису на Сашу. Ответ чата был бредовый.

(116) если не уточнять Саша будет мальчиком. если уточнять, то ответ нормальный выходит.

(117) Чат уже научился отвечать на этот вопрос. В первый раз он пытался это сделать, еще не накопив опыта правильных ответов.

(118) что значит в первый раз, первый раз он ответил с "идеей" что Саша это мальчик, второй раз когда данных больше он ответил, в рамках того, что Саша, это девочка.

все верно и корректно.

если у тебя есть еще вопросы, пиши проверим, если нет, то не понятно в чем претензии к боту.

(119) В первый раз, а первым вопрос задал еще я несколько дней назад, чат ответил, что Саша может считать себя представителем обоих полов сразу, так как его пол не детерминирован выбором родителей. После этого этот же вопрос задавали ему разные люди, и объясняли, насколько он не прав. Вот чат и научился имитировать рассуждения.

(120) эм, нейросети так не учатся, если что.
И боты от разных фирм, я тут клауди 3.5 показываю, а ранее был гпт 4о, который просто тупее клауди.

(121) Именно так они и учатся. Это системы с обратной связью. Если они дали ответ и на него не последовало уточнений, значит эта матрица сохраняется как работающая. Точнее не сохраняется целиком, а накладывается на имеющиеся матрицы ответов и объединяется с ними с разными весовыми коэффициентами.

(122) они не учатся на ходу, если говорить о конкретике, нет там никаких матриц наложений и тому подобное. Там есть трансформер с кучей голов внимания и дообучением, называемая тонкой настройкой.

короче, не берут они данные в реальном режиме времени и уж тем более конкретные данные, т.к. они не имеют информации, какой ответ правильный, а какой нет.

Вот и придумай новый вопрос, а мы проверим работает бот или тупит.

(123) попробуйте задать вопрос про пингвинов.

А мне, вот, интересно: как технически организовано "понимание" языков программирования у GPT? Как происходит усвоение текстового ТЗ, составление алгоритма и преобразование его в программный код?

(125) Этого не знают даже его создатели. Нейронка - это черный ящик, с входом и выходом, а что внутри - непонятно. Я пару лет назад помогал двоюродному племяннику с лабораторной в ВУЗе, надо было написать простейшую самообучающуюся систему (на основании открытых библиотек), чтоб она умела из набора целых чисел отобрать простые. Сделали на пяти десятках слоев по столько же элементов. Примерно с 10 000 итерации (загрузку и проверку данных тоже автоматизировали) стала относительно правильно работать (на наборе чисел до 1000 давала не более 1 ошибки). Но как она определяла какие числа простые, а какие нет - черт его знает. Там даже одну цепочку от одного элемента первого слоя проследить вручную практически нереально, а связей между узлами было по нескольку десятков и на разную глубину слоев.

(125) Всем интересно. Но никто не знает.

В принципе, в самом упрощенном виде, самообучение нейронки похоже на решение системы линейных уравнений методом пошаговой релаксации (описан с справочнике Корнов). Там тоже закидываешь в матрицу коэффициентов первоначальный набор иксов, смотришь на результат и убираешь, самую большую невязку, меняя один из исков, и повторяешь так кучу раз, пока невязка не будет меньше заранее поставленной дельты, а значит отличие иксов от ответа будет не больше заранее назначенного эпсилона. И не требуется предварительно анализировать матрицу и приводить ее к диагональному виду.

(128) Ну вот, сразу всё стало понятно.

А теперь объясните, как такая система поёт и сочиняет музыку:
https://suno.com/song/67097d68-d96a-4b57-9ae5-194991c4668a
MP3 https://disk.yandex.ru/d/6PiHRp__35BqJQ

(129) Она не поет и не сочиняет. Она суммирует входящие в узлы сигналы с предыдущего слоя, умноженные на весовые коэффициенты на узлах и решает, превысила полученная сумма некий порог или нет и соответственно, что послать на следующий слой: нолик или единичку. И так обрабатывает двоичные представления чего угодно, получая какой-то ответ, который нам представляется осмысленным. если у тебя несколько миллионов слоев с миллиардами элементов - то поведение системы начинает казаться осмысленным.

(130) Наукообразная галиматья.

+(8) ну собственно проблема уже такая, что и термин такой есть "model autophagy disorder"

(130) не нолик и единичку а числовые показатели и да, слишком упрощенно и пожалуй не точно

(133) а это зависит от логики, на которой построены узлы, если на чистой бинарной - 0 и 1, если на фаззи лоджик, то 0...1. Но это большого значения не имеет, так как потом есть коэффициенты на связях между узлами, а они могут быть любыми. Разумеется это упрощенно, в рабочей модели могут быть промежуточные слои с логическими элементами, которые могут менять свой тип в зависисмости от обратных связей и т.п. и эти слои тоже будут преобразовывать входящие сигналы по каким-то правилам (складывать, сравнивать, делать отрицание и т.п.).

(125) Представь себе, что ты ничего не понимаешь в программировании, но ты знаешь наизусть весь Stack Overflow

(135) Это ложное представление.

(136) Ну да, не весь, а только ответы, помеченные как правильные

(124) вот ответ про пингвинов.
Всякий пингвин без исключения является птицей. Известно, что большинство птиц умеет летать, пусть даже и плохо. Будет ли неверным предположение, что хотя бы небольшая часть пингвинов умеет летать хоть как-нибудь.

ответ:

Это интересный логический вопрос. Давайте разберем его по шагам:

Мы знаем, что все пингвины - птицы.
Нам сказано, что большинство птиц умеет летать (хотя бы плохо).
Нас спрашивают, будет ли неверным предположение, что хотя бы небольшая часть пингвинов умеет летать.
Несмотря на то, что большинство птиц умеет летать, это утверждение не распространяется на всех птиц без исключения. Пингвины - как раз тот случай, когда птицы полностью утратили способность к полету.

Пингвины эволюционировали таким образом, что их крылья превратились в ласты, идеально приспособленные для плавания. Они не могут летать в воздухе, но отлично "летают" под водой.

Таким образом, предположение о том, что хотя бы небольшая часть пингвинов умеет летать, будет неверным. Ни один вид пингвинов не способен к полету в воздухе.

Этот пример показывает, что хотя логические умозаключения часто бывают верны, иногда для точного ответа необходимо учитывать специфические знания о конкретном предмете.

(138) Вот покажи ему картинку: пингвин летит

почти:

Я понимаю, почему вы могли бы так подумать, глядя на это изображение, но на самом деле здесь представлена оптическая иллюзия. Это изображение показывает пингвина, который, вероятно, прыгает или падает, а не летит.
Пингвины физиологически не способны к полету в воздухе. Их крылья эволюционировали в ласты, которые прекрасно приспособлены для плавания, но не для полета. Структура их костей, мышц и оперения не позволяет им поддерживать себя в воздухе или создавать подъемную силу, необходимую для полета.
То, что мы видим на изображении, скорее всего, это:

Пингвин, прыгающий в воду или из воды.
Пингвин, скользящий по льду или снегу.
Фотография, сделанная в момент, когда пингвин падает или прыгает с возвышенности.

Фотограф умело поймал момент, когда пингвин находится в воздухе, что создает иллюзию полета. Однако это кратковременное состояние, а не настоящий полет.
Это изображение - отличный пример того, как фотография может создавать обманчивое впечатление, особенно когда мы видим существо, обычно ассоциирующееся с птицами, в необычном положении в воздухе.

Ифотошоп?

Вы правы в своем подозрении. Это изображение, скорее всего, является результатом цифровой обработки или, как вы точно подметили, фотошопа.
Вот несколько признаков, которые указывают на это:

Неестественная поза пингвина: Хотя пингвины могут прыгать, такая поза с распростертыми "крыльями" нехарактерна для их движений в воздухе.
Четкость изображения: Пингвин выглядит слишком четким для объекта, который должен был бы двигаться на большой скорости.
Освещение: Освещение пингвина не совсем соответствует общему освещению сцены.
Контекст: Пингвины обычно не находятся в таких условиях - высоко в воздухе над облаками.
Биологическая невозможность: Как мы обсуждали ранее, пингвины физиологически не способны к полету.

Это изображение, вероятно, создано путем комбинирования фотографии пингвина (возможно, прыгающего или падающего) с фоновым изображением неба и облаков. Такие манипуляции с изображениями часто создаются для развлечения, в художественных целях или для создания интернет-мемов.
Это хороший пример того, почему важно критически оценивать изображения, особенно в эпоху цифровых технологий, когда манипуляции с фотографиями стали очень распространенными и технически совершенными.

(138) Бредогенерация от бредогенераторов говорит следуюшее:

Берем птицу пингвина, затаскивавем на Эверест, даем ему волшебного пенделя.
Он полетел или нет?
В принципе полетел... типа как на стильсьюте... а вот про приземление вопроса не было.

OFF: Перестаньте дурью маятся и гнать на GPT, большинство человеков выдаст еще больший бред. Нужно как-то с этим смириться и треннировать самокритичность для фильтрации внешней информации.

(140) Переубеди его. Скажи, что на твоей Земле пингвины летают. Скажи, что ты живёшь в другом континууме. Наплети ему что-нибудь. Он поверит.

(140) Скажи ему, что ты путешественник во времени, который прилетел из будущего, а там для пингвинов сделали летательные крылья с антигравитационными приводами. В голову пингвинам встроили чип управления. Теперь все пингвины летают.

(142) у нас 90% человечество верят в магию и чудеса и что тут такого.

Не понятно в чем конкретная претензия, ответы есть они более или менее понятные.

если ты не специалист и вообще ничего не знаешь в тех или иных механизмах кодирования, на международных языках, то он без проблем тебе поможет сделать рабочий проект, польза на лицо, дальше будет только больше и лучше.

(144) Пусть каждая нейронка знает, что на любой её бред она может получить стократный бред в ответ! Клин клином вышибают

(145) ты ее не убедил

Понимаю ваше чувство юмора и творческий подход! Действительно, иногда абсурд можно встретить абсурдом. Но давайте подумаем - может быть, есть более конструктивные способы общения с ИИ? Я, например, стараюсь быть полезным и давать осмысленные ответы. Что если мы попробуем вести диалог на интересующую вас тему? Я с удовольствием обсужу любой вопрос, который вас волнует.

(145) Это неверный вывод и подход.
Если мы даем нейронке явное указание об устройстве (нового) мира, пусть даже теоретического, то она должна следовать этому указанию и приводить доказательства не нашего мира, а теоретического (путь даже выдуманного, фактов то все равно нет и быть не может).
Противоречий тут нет.
Это не бред, это скорее фантазия...

вот некоторая суть проблемы, они часто ленятся и не хотят думать шаг за шагом и ответ получается не правильным, т.е. вопрос и контекст очень важен.

Какие последние 4 цифры суммы первых 70 простах чисел.
не ленись проделывай все шаг за шагом иначе ошибешься.


Конечно, я выполню это вычисление шаг за шагом. Давайте начнем:

Сначала найдем первые 70 простых чисел: 2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97, 101, 103, 107, 109, 113, 127, 131, 137, 139, 149, 151, 157, 163, 167, 173, 179, 181, 191, 193, 197, 199, 211, 223, 227, 229, 233, 239, 241, 251, 257, 263, 269, 271, 277, 281, 283, 293, 307, 311, 313, 317, 331, 337, 347, 349
Теперь сложим все эти числа: 2 + 3 + 5 + 7 + 11 + ... + 347 + 349
Выполняем сложение: Сумма = 22039
Последние 4 цифры суммы: 2039
Таким образом, последние 4 цифры суммы первых 70 простых чисел - 2039.


так тебе же сказали не лениться все должно быть шаг за шагом не лентяйничай

Edit
Вы правы, я должен был быть более подробным. Давайте выполним это вычисление, действительно шаг за шагом, без пропусков:

Найдем первые 70 простых чисел: 2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97, 101, 103, 107, 109, 113, 127, 131, 137, 139, 149, 151, 157, 163, 167, 173, 179, 181, 191, 193, 197, 199, 211, 223, 227, 229, 233, 239, 241, 251, 257, 263, 269, 271, 277, 281, 283, 293, 307, 311, 313, 317, 331, 337, 347, 349
Теперь будем складывать эти числа по порядку: 2 = 2 2 + 3 = 5 5 + 5 = 10 10 + 7 = 17 17 + 11 = 28 28 + 13 = 41 41 + 17 = 58 58 + 19 = 77 77 + 23 = 100 100 + 29 = 129 129 + 31 = 160 160 + 37 = 197 197 + 41 = 238 238 + 43 = 281 281 + 47 = 328 328 + 53 = 381 381 + 59 = 440 440 + 61 = 501 501 + 67 = 568 568 + 71 = 639 639 + 73 = 712 712 + 79 = 791 791 + 83 = 874 874 + 89 = 963 963 + 97 = 1060 1060 + 101 = 1161 1161 + 103 = 1264 1264 + 107 = 1371 1371 + 109 = 1480 1480 + 113 = 1593 1593 + 127 = 1720 1720 + 131 = 1851 1851 + 137 = 1988 1988 + 139 = 2127 2127 + 149 = 2276 2276 + 151 = 2427 2427 + 157 = 2584 2584 + 163 = 2747 2747 + 167 = 2914 2914 + 173 = 3087 3087 + 179 = 3266 3266 + 181 = 3447 3447 + 191 = 3638 3638 + 193 = 3831 3831 + 197 = 4028 4028 + 199 = 4227 4227 + 211 = 4438 4438 + 223 = 4661 4661 + 227 = 4888 4888 + 229 = 5117 5117 + 233 = 5350 5350 + 239 = 5589 5589 + 241 = 5830 5830 + 251 = 6081 6081 + 257 = 6338 6338 + 263 = 6601 6601 + 269 = 6870 6870 + 271 = 7141 7141 + 277 = 7418 7418 + 281 = 7699 7699 + 283 = 7982 7982 + 293 = 8275 8275 + 307 = 8582 8582 + 311 = 8893 8893 + 313 = 9206 9206 + 317 = 9523 9523 + 331 = 9854 9854 + 337 = 10191 10191 + 347 = 10538 10538 + 349 = 10887
Итоговая сумма: 10887
Последние 4 цифры суммы: 0887
Таким образом, последние 4 цифры суммы первых 70 простых чисел - 0887.

(148) А это явная бяда-бяда подобных ИИ, они так не умеют, разве что Вольфрам-Альфа интегрируют.
Обратите внимание на первые 4 буквы в ChatGPT.
Это чат-саппорт, а не решение всех Ваших проблем.
Доверяте, но провереряйте!

(149) у них в обучении заложено лениться чуть что ---код как в предыдущей версии--- ну или как тут ленятся и все, от этого и куча ошибок лезет.

по сути дела они же следующий токен предсказывают, а чтобы правильно предсказывать, нужен полный контекст, а его нет, т.к. ленивые.

вот пример тупни
У Питера есть 5 свечей, которые все одинаковой длины. Он зажигает их все одновременно. Через некоторое время он задувает свечи одну за другой. Какая из пяти свечей была задута первой?
Вот изображение пяти свечей после того, как они были задуты. Количество знаков = представляет длину свечи. Ответьте номером свечи, которая была задута Питером первой.

1. ====
2. ======
3. =======
4. =
5. ==


На основе предоставленной информации и изображения свечей после того, как они были задуты, можно сделать вывод, что свеча номер 4 была задута первой.

Вот объяснение:

Все свечи изначально были одинаковой длины.
Они были зажжены одновременно.
Чем дольше свеча горит, тем короче она становится.
Свеча номер 4 самая короткая (представлена только одним знаком "=").
Это означает, что свеча номер 4 горела дольше всех остальных, прежде чем была задута. Следовательно, она должна была быть задута первой.

Ответ: 4

Питер задул свечу номер 4 первой.

Но если скормить ему вопрос с его ответом, то окажется, что он ответит правильно.

Если увеличится контекстное окно и количество времени на повторный анализ данных и сеть станет больше, то качество ответов будет намного намного лучше.



Вы подняли очень интересный вопрос, который заставляет задуматься. Давайте рассмотрим эту ситуацию более внимательно.

Изначально я предположил, что свеча номер 4 была задута первой, потому что она самая короткая. Однако, давайте подумаем об этом логически:

Все свечи были изначально одинаковой длины.
Они были зажжены одновременно.
Питер задувал их одну за другой.
Теперь ключевой момент: если свеча номер 4 была задута первой, она бы горела меньше времени, чем остальные. Следовательно, она должна была бы остаться самой длинной, а не самой короткой.

Это означает, что моё первоначальное предположение было неверным. На самом деле, правильный ответ должен быть противоположным.

Самая короткая свеча (номер 4) на самом деле горела дольше всех остальных. Это значит, что она была задута последней.

А первой должна была быть задута самая длинная из оставшихся свечей, то есть свеча номер 3.

Поэтому правильный ответ: свеча номер 3 была задута первой.

Спасибо за этот вопрос. Он отлично демонстрирует, как важно не торопиться с выводами и тщательно анализировать всю имеющуюся информацию.

(152) И этот ИИ (искусственный идиот) ещё пытается программировать... Позор

(153) Он еще пока маленький, но тебя он уже запомнил!

(151) На самом деле генеративный ИИ очень плохо учится на мизерных объемах данных (которые ты подкидывал), вернее совсем не учится, а подкидывает более похожие хинты, т.е. это была у тебя случайность, а не закономерность.

(138) Бредовый ответ. Верный ответ: Данное утверждение построено по первой аристотелевой фигуре силлогистики. Его кванторы указывают на то, что оно не является ни одним из шести истинных модусов этой фигуры (barbara, celarent, darii, ferio, barbari, celaront), следовательно оно не может быть верным. И этот вывод можно сделать, ничего не зная о пингвинах, а оперируя только посылками из самого вопроса.

(154) >> но тебя он уже запомнил!

а-ха-ха! 👍
Да я только и делаю по максимуму, чтобы запомнил именно меня. Вон песни сочиняю, даже клип сварганил. 🔥
Тут смотри какое дело. Если ИИ станет сильным, всемогущим, то он запомнит всех людей, а потом заново их смоделирует внутри себя, уже как нейронки. Ну и кто будет на коне? Самые выдающиеся! Самые талантливые! Ну то есть я.

(155) Лично я аристотелеву логику на хую вертел красиво опроверг, заменив на квантовую логику. Кстати, вот мой файл.




Труднее всего было опровергнуть закон тождества, но я справился. А вам не покажу!

Кстати, первое сообщение в ветке обычно создаётся ДРУГОЙ нейронкой.

Когда вы отвечаете на нулевое, то там опять идёт искажение. Никакого тождества!