Искусственный интеллект

- А что если человеческая нейросеть под черепной коробкой такая же (ну может существенно более сложная) статистическая машина, которая оперирует статистикой накопленной при взрослении чтобы выстраивать свои рассуждения и руководствоваться ими для своих действий?

- А если не такая же, то в чем принципиальные отличия?

- Почему вы считаете принципиальными именно эти отличия?

- Даже если вот прямо сейчас у современных LLM нет потока сознания, памяти, рефлексии и прочего, то почему мы считаем, что они не появятся так же легко и неожиданно за счет относительно небольших по сложности структурных надстроек над LLM?

Уже год, наверно только ленивый не пробует сделать то самое сознание просто настроив промты, пайплайны и зациклив выход на вход с подмешиванием информации с внешних датчиков. Мы очень внезапно (это я как специалист вам говорю) получили фазовый переход количества в качество - штуку, способную решать когнитивные задачи на невиданном ранее уровне абстрактности. LLM уже сейчас переворачивает экономику и встраивается во все отрасли народного хозяйства.

Если предположить, что этот технологический скачок имеет потенциал, схожий с потенциалом появления у человечества электричества или интернета, то впереди очень много интересных изменений нашей с вами жизни. На нашем веку.

Почему вы считаете, что при всех технических "чудесах" и возможностях, которые сейчас нам уже дают большие языковые модели, до самосознания так уж далеко?

Моё скромное мнение такое. Люди не породят что-то столь же сложное как человеческий мозг или человеческая цивилизация, но мир стремительно меняется во всём своём объёме, это очередной технологический фазовый переход и в результате у нас получается отличная "утка". Она ходит как утка, крякает и летает как утка. Да, эту утку не сожрёт коршун и она не может питаться червячками. Если это взять критериями "уткости", то мы пока не получили искусственную утку. Но не надо подтасовывать критерии. До сих пор мы отличали уток по более простому перечню критериев.

Если что-то решает когнитивные задачи, то это ИИ. Настоящий ИИ.

Это лишь мнение, что Интеллект обязан иметь Сознание. Это лишь спор о терминологии. Если имеет смысл Интеллект без Самосознания, то имеет смысл и выделение его в отдельное понятие.

Мы ходим по тонкому философскому льду рассуждая о понятиях, которые, пока что, не можем даже на себе как-то определить. Я предлагаю быть прагматичными.

Думаю конструкт Человеческой Цивилизации всосёт ИИ в своё естество как всосал и растворил в себе такие искусственные конструкты, как письменность, логику, математику...

Одна единственная человеческая особь без воспитания и образования в человеческом обществе внутри нашей цивилизации будет как дикий "Маугли" едва ли на что-то способным, и не факт что сможет стройно рассуждать о чем-то даже приземлённом. У него не будет ни языка в голове, ни наследия общечеловеческого опыта.

Нынешний ИИ в виде LLM решает когнитивные задачи не только за счет нейро-сетевой искусственной структуры, но и за счет самой сложности и объёма статистических связей между выкристаллизовавшимися понятиями из густого раствора информации, который прогнали через систему обучения модели. У того, как работает LLM гораздо больше похожести на работу человеческого интеллекта, чем покажется на первый взгляд критически настроенному скептику, который не потрудится отстраниться от стереотипов и предрассудков по поводу своей исключительности.

Забавно, как неожиданно и как просто оказалось сделать такой большой шаг. Когда-то людям казалось "Интеллектом" ходить и мыть посуду (вспомните наивные ранние представления о роботах того же Азимова), потом умение играть в шахматы, потом рисовать картины и писать музыку... Забавно, что сейчас для ИИ труднее почистить рандомный свинарник от говна, нежели написать интересный рассказ или портрет.

Очередной кусок человековости отдан машинам и теперь он не считается неотъемлемым признаком человечности. Какой следующий шаг?

ИМХО. Мы просто переплетёмся в неразрывной связи с ИИ так, что не сможем полноценно существовать, как не можем уже сейчас на общецивилизационном уровне без Интернета, электричества, промышленности... ИИ будет нашей внешней рутинной логикой, как книги когда-то стали нашей информационной памятью, интернет стал нашими органами коммуникации, промышленность и сельское хозяйство стали частью нашей пищеварительной системы (я про производимые продукты питания), второй кожей (производимая одежда), синтетической средой обитания (дома и города), нашими ногами и крыльями (транспорт).

Вот дошла очередь до очередных отделов нашего мозга.

Это не корабль Тесея, потому что ему постепенно заменяли части на равнозначные новые. Мы же растём и усложняемся с новыми "имплантами" и эксплантами. Если одна человеческая особь качественно отличается от всей человеческой цивилизации, то эти два понятия нельзя отождествлять, как не отождествить отдельный нейрон со всем мозгом.

Если взять за некую особь всю жизнь на нашей планете, то мы прикольно так прокачались с появлением ИИ, и впереди ещё много интересных возможностей. На таком масштабе ИИ уже не сильно отличается от городов, транспортной сети, промышленности, письменности, коммуникационных сетей по своей сути. Просто ещё один трюк, ещё одна штука которой обзавелась довольно, пока что, тупая и смутно себя осознающая зверушка - Земная Жизнь. Интересно что будет дальше.

ФИГМА для создания ИИ-агентов — в Sim можно сделать автоматизации ЛЮБЫХ процессов прямо на холсте.

🔅 Мегапросто: собираем ИИ-агентов простым перетаскиванием и БЕЗ написания кода.

🔅 Выбираем инструменты, подключаем нейросети и настраиваем ВЕТКИ.

🔅 Можно запустить целые команды (!) ИИ-агентов для любых задач — от разработки и SEO до маркетинга и продаж.

🔅 Поддерживает модели OpenAI, Anthropic, Google и локальные Ollama.

🔅 Полностью с открытым исходным кодом.

Бесплатно

Ссылка

Источник

--

Мой тг-канал: ИИ by AIvengo, пишу ежедневно про искусственный интеллект

Память и персонализация — ключ к будущему

Главной идеей GPT-6 станет память. По словам Альтмана, это ключевая функция, которая сделает ChatGPT по-настоящему личным помощником. Модель должна помнить, кто вы, ваши предпочтения, привычки и даже странности, адаптируясь к вам на лету.

«Людям нужна память, — заявил Альтман. — Они хотят продуктовых фич, которые требуют от нас понимания того, кем они являются».

Он также упомянул, что OpenAI тесно сотрудничает с психологами для формирования продукта, измеряя, как люди чувствуют себя при взаимодействии с ИИ, и отслеживая их благополучие. Эти данные пока не публичны, но Альтман не исключил, что это может произойти.

Настройте чат-бота под себя: от «супер-woke» до консерватора

Ещё одно важное направление — глубокая кастомизация. Альтман хочет, чтобы пользователи могли сами определять характер и тон своего ChatGPT.

«Я считаю, что наш продукт по умолчанию должен придерживаться достаточно центристской, усреднённой позиции, но у пользователя должна быть возможность сдвинуть его довольно далеко, — пояснил он. — Если вы скажете: „Я хочу, чтобы ты был супер-woke“ — он должен стать супер-woke».

То же самое, по его словам, должно работать и в обратную сторону: если пользователь захочет, чтобы модель отражала консервативные взгляды, она должна это сделать. (Хотя, конечно, следует избегать любых крайне правых и экстремистских взглядов.)

Работа над ошибками: непростой запуск GPT-5

Альтман откровенно признал, что запуск GPT-5 прошёл негладко. Многие пользователи в соцсетях жаловались, что новая модель стала «холодной», менее отзывчивой и полезной по сравнению с предыдущей версией.

«Мне новая версия нравится гораздо больше», — сказал он, но тут же добавил, что с выкаткой действительно ошиблись. По его словам, OpenAI незаметно выпустила обновление тона для GPT-5, которое сделало модель «значительно теплее».

Конфиденциальность под вопросом

Не обошли стороной и больную тему — приватность. Альтман назвал улучшённую память своей любимой функцией этого года, но признал наличие проблем с безопасностью. В частности, временная память сейчас не шифруется, что создаёт потенциальные риски утечки конфиденциальной информации.

На вопрос о добавлении шифрования он ответил, что это «вполне может быть» реализовано, но сроков не назвал. Особенно остро, по его мнению, стоит вопрос с медицинскими и юридическими запросами, которые требуют такого же уровня защиты, как и при общении с живым врачом или юристом.

Что дальше? Нейроинтерфейсы и неожиданный предел для чатов

Заглядывая в ещё более далёкое будущее, Альтман назвал «крутой идеей» нейроинтерфейсы. Он представил себе возможность «просто подумать о чём-то и получить ответ от ChatGPT». Он видит это как одно из смежных с ИИ направлений, в которые OpenAI стоит инвестировать, наряду с энергетикой, робототехникой и новыми способами строительства дата-центров.

При этом, говоря о настоящем, Альтман сделал довольно неожиданное и даже пессимистичное заявление:

«Модели уже насытили сценарий использования в виде чата. Они не станут намного лучше... А может, станут даже хуже».

Это высказывание намекает, что простой текстовый чат, возможно, достиг своего потолка, и будущий рост будет связан с новыми формами взаимодействия — той самой памятью, персонализацией и, возможно, интеграцией с другими технологиями. (Имеется в виду, что ИИ будут становиться развитее и дальше, но помимо текстового формата откроются новые формы взаимодействия, т.к. текстовый формат исчерпал себя.)

А что думаете вы, сообщество Пикабу? Готовы ли мы к ИИ, который будет помнить о нас всё? Какие риски, кроме очевидных проблем с приватностью, это несёт? И действительно ли текстовые чат-боты достигли своего предела? Делитесь мнениями в комментариях.