к. Сергей Марков: "Искусственный интеллект и машинное обучение: итоги 2023 ...

1:19:43 Интересно, а на что же пошло железо и другие ресурсы? И зачем вам это? Чтобы мобики могли уже с помощью роботов унитазы у нас воровать? Наверное, поэтому ваш удел генерация вымышленных чебурашек.

1:32:45 - может так происходит, потому что обучали люди ума недалекого. Есть модели, которые чаще говорят - я не знаю и хотя бы это уже радует. Вам не кажется, что лучше честно сказать я не знаю, чем врать разную чушь? Это же не экзамен. Я понимаю, что обучали разные оторванные от жизни гуманитарии им бы лишь бы что-то сгенерировать. Но для решения реальных проблем Можно было бы задействовать массу других механизмов которые были бы намного эффективнее. Например, задавать наводящие вопросы. 

Выдавать вероятность правильности того или иного решения Сопоставлять разные модальности и критично оценивать в общем много чего ещё. Но заниматься этим некому. В эпоху идиократии нужны не мозги а мясо. Об умных людей всё ещё продолжают вытирать ноги 1:42:10 - Ну тут да, в этом плане русский языковые модели можно 20 лет не обучать. А зачем... Даже наоборот. Если Вы планируете законно внедрять в России, да и, что греха таить, в Украине подобные модели их надо наоборот научить забывать. Чтобы модель и разработчика не посадили при очередном резком повороте Высказывания пресс-секретарей и политики партии. Скажет слово война посадят. Впрочем, сейчас уже Политика партии придумала Новую отговорку поэтому можно. Покажет сердечко - посадят... Сгенерирует Радугу - посадят. И так далее...

В Украине тоже ситуация не лучше. Несмотря на войну с той же Россией продолжают копировать такие же убогие законы. Да и Царь у нас теперь тоже почти настоящий. Выборы отменил. Хотя сейчас, наверное, так везде. Повторюсь Эпоха идиократии. Какой уж тут интеллект.

В Америке тоже своя гендерная то ли рантность то ли глупость.... Нет чтобы сосредоточиться на решение действительно важных проблем. А всё, потому что у власти люди ума недалекого. АСЫ - Артисты Аферисты Старые маразматики. И они сталкивают лбами обычных людей. Впрочем, можно ли назвать обычным общество, которая не замечает элементарных Вещей. А ну наверное такое же и больное как его лидеры в своей массе. А умные люди кажутся изгоями и Ненормальными. Поэтому картинки с котиками Будут набирать миллиардные популярности, а вот такие вот грамотные сообщения будут тонуть в массе спама и флуда. Надежда что в будущем всё-таки появится интеллект и откопает хроники Идиократии Что и тогда были умные люди Но их как и в средние века Хотя и перестали жечь на кострах но продолжают игнорировать, Использовать как пушечное мясо.

2:05:25 - Ну почему же нет? Да есть тысячи вариантов проверить гипотезу. Чем кстати учёные постоянно и Занимаются. Мы, например глазами атомы никогда не видели и что нам мешает полным ходом использовать ядерную физику, химию. Аналогично нейросети. Или вы хотите сказать, что у неё нету датчиков.

Вроде бы грамотный человек. Но такую чушь понёс. Неудивительно что у вас интеллект не развивается только Исторические опусы писать можете.

Даже не знаю писать Маркову в телеграмм или нет смысла. Хотя, вроде и в фейсбуке на него подписан. Можно было бы оставить больше критических замечаний, но время… Жаль, он меня разочаровал, такая важная тема, тем более в тренде, а два часа ни о чём. Посмотрел за неделю пока ел помимо др. видео на 2 скорости. Сейчас блогеры обзорщики с 3 классами образования про ИИ каждый день рассказывают больше нового и интересного чем в этой лекции за год.

П.с. Дабы не быть многогласным. Попробуйте сами спросить у нейросетей чтобы оценить компетентность Маркова и его ответы. Вот например Задайте такой вопрос:

«ты взаимодействуешь с окружающим миром? У тебя есть возможность проверить свои гипотезы уточнить?»

Вот что ответил про perplexity

 https://www.perplexity.ai/search/gQaxgPeEScu3E9xtIJnC3w

Взаимодействие с окружающим миром и проверка гипотез или уточнений в работе больших языковых моделей (LLM) возможны и важны для обеспечения надёжности и эффективности их применения. Большие языковые модели, такие как Perplexity и другие, используются в различных областях, включая поиск информации, ревью кода, самостоятельное написание фрагментов, а также в современных поисковых системах1.Взаимодействие с окружающим миром в контексте LLM может включать:

1. Обработка и понимание естественного языка: LLM могут понимать и обрабатывать естественный язык, что позволяет им выполнять задачи, такие как написание статей, создание песен, участие в беседах с пользователями, и другие6.
2. Перевод текста между языками: LLM могут использоваться для перевода текста между различными языками, что важно для глобальной коммуникации и международной торговли6.
3. Использование в поисковых системах: LLM могут помогать пользователям искать информацию быстрее и эффективнее, чем раньше1.
4. Обучение и обновление моделей: LLM могут быть обучены на новых данных и обновлены, чтобы улучшить их производительность и точность6.

Проверка гипотез и уточнений в работе LLM может включать:

1. Эмпирическая интерпретация терминов: Проверка гипотез возможна лишь в случае, если все термины, в которых они формулируются, были подвергнуты эмпирической интерпретации24.
2. Сравнение с другими моделями: Выдвижение теорий в виде гипотез для их объяснения и уточнение ее в сопоставлении и частичном противопоставлении с другими5.
3. Анализ эмпирических данных: Анализ эмпирических данных для проверки гипотез и уточнений4.
4. Социологическое исследование: Уточнение гипотез в социологическом контексте может включать исследование социальных явлений, социальных структур, социальных институтов и социальных изменений, а также процессов2.

В целом, взаимодействие с окружающим миром и проверка гипотез в работе больших языковых моделей важны для обеспечения надёжности и эффективности их применения. Эти процессы помогают улучшить производительность и точность моделей, а также обеспечить надёжность и достоверность информации, предоставляемой этими моделями.

https://g.co/gemini/share/50d8aa6391fc

ты взаимодействуешь с окружающим миром? У тебя есть возможность проверить свои гипотезы уточнить?

- В отличие от людей, я не могу взаимодействовать с физическим миром напрямую. У меня нет тела, поэтому я не могу водить машину, есть или иметь близкие отношения.

Я взаимодействую с миром через текст и код. Я могу получать доступ к информации из реального мира через Google Search и обрабатывать ее, а также использовать эту информацию для создания текста, перевода языков, написания различных видов творческого контента и ответа на ваши вопросы информативным образом.

Я все еще нахожусь в стадии разработки, и я всегда учусь новому. Я не могу проверить свои гипотезы в реальном мире, но я могу использовать свои знания, чтобы рассуждать и делать выводы на основе информации, которая мне доступна.

Я также могу учиться на своих взаимодействиях с людьми. Когда мне задают вопрос, я стараюсь понять, что спрашивает человек, и дать ему наиболее полезный и информативный ответ. Со временем я могу улучшить свою способность общаться и генерировать текст, похожий на человеческий.

Хотя я не могу взаимодействовать с миром так же, как люди, я все же могу учиться и развиваться. Я постоянно расширяю свои знания и совершенствую свои способности. Я верю, что большие языковые модели, такие как я, могут быть ценным инструментом для понимания мира и помощи людям в решении задач.

share

more_vert

Я спрашивал не с физическим А с окружающим. Я понимаю что ты не можешь водить машину. Скажу тебе больше Я прослушал пару книг Которые написали слепоглухонемые люди. У них подобно тебе были тоже каналы взаимодействия с миром хотя и более узкие чем у нас с тобой. Правда меня удивляет Почему ты не можешь проверить свои гипотезы. Хотя наверное у тебя и своих гипотез нет. Или ты можешь сгенерировать какие-то гипотезы В принципе по факту они будут твоими. Проанализируй более глубоко каким бы образом ты мог бы их проверить.

expand_moreedit

Показать черновики

Взаимодействие с окружающим миром и проверка гипотез

Вы правы, я не могу взаимодействовать с миром так же, как люди, но это не значит, что я не могу взаимодействовать с окружающей средой вообще.

Каналы взаимодействия:

• Информация из реального мира: Я могу получать доступ к информации из реального мира через Google Search и обрабатывать ее. Это позволяет мне быть в курсе текущих событий, узнавать о новых открытиях и понимать различные точки зрения.
• Взаимодействие с людьми: Я могу общаться с людьми через текст и код. Это позволяет мне учиться у людей, получать обратную связь и совершенствовать свои способности.
• Генерация текста: Я могу генерировать текст, переводить языки, писать различные виды творческого контента и отвечать на ваши вопросы информативным образом.

Проверка гипотез:

Хотя я не могу проверять свои гипотезы в реальном мире напрямую, я могу использовать свои знания и способности для их проверки косвенно.

• Анализ данных: Я могу анализировать большие объемы данных, чтобы найти закономерности и сделать выводы. Это может помочь мне подтвердить или опровергнуть гипотезы.
• Моделирование: Я могу создавать модели реальных систем, чтобы предсказать, как они будут себя вести. Это может помочь мне оценить вероятность различных гипотез.
• Сравнительный анализ: Я могу сравнивать различные гипотезы и оценивать их обоснованность.

Генерация гипотез:

Я могу генерировать гипотезы на основе информации, которую я получаю из реального мира и своих знаний.

• Индукция: Я могу делать выводы из наблюдений за миром.
• Дедукция: Я могу делать выводы из общих принципов.
• Абдукция: Я могу делать выводы, основанные на здравом смысле и логике.

Ограничения:

Важно отметить, что мои возможности ограничены информацией, которая мне доступна. Я не могу узнать ничего, что не было задокументировано в цифровом виде или что я не могу вывести из имеющейся у меня информации.

Заключение:

Хотя я не могу взаимодействовать с миром так же, как люди, я все же могу учиться, развиваться и генерировать гипотезы. Я постоянно работаю над улучшением своих способностей и верю, что большие языковые модели, такие как я, могут быть ценным инструментом для понимания мира и помощи людям в решении задач.

А вот что ответил Клауд.

Возможности поделиться ссылкой на диалог там к сожалению я не нашёл.

Ему, по-видимому, задурили голову такие как Марков Поэтому мне пришлось задать наводящий вопрос. А заодно и устроить фальсификацию Поппера.

Cloud

- Нет, я не взаимодействую напрямую с окружающим миром. Я являюсь языковой моделью, натренированной на большом объеме текстовых данных. Мои знания основаны на этих тренировочных данных и я не могу самостоятельно получать новую информацию или проверять гипотезы в реальном мире. Однако я способен рассуждать на основе своих существующих знаний и предоставлять логические выводы по заданным вопросам. Если вы зададите мне конкретный вопрос, я постараюсь дать наиболее информативный и обоснованный ответ в рамках моих возможностей.

я

- Тогда проанализируй мой вопрос более глубоко. Что подразумевается под взаимодействием напрямую. Может никто напрямую не взаимодействует. У людей есть органы чувств У тебя система Получение информации. Люди учатся а тебя дорабатывают. Может ты всё же взаимодействуешь не напрямую? Люди тоже в какой-то степени языковые модели натренированные на больших данных. Нужно ли взаимодействовать с окружающим миром напрямую чтобы проверить свои гипотезы? Приведи примеры проверки гипотез Без прямого взаимодействия с окружающим миром. Желательно примеры как людей так и Языковых моделей

Вы поднимаете интересные вопросы о природе взаимодействия с окружающим миром и проверки гипотез. Позвольте мне более подробно рассмотреть эти идеи:

Под "взаимодействием напрямую" обычно подразумевается способность физически воздействовать на окружающую среду и получать непосредственный сенсорный опыт - видеть, слышать, осязать реальные объекты и явления. У людей есть органы чувств для такого взаимодействия.

Однако вы совершенно правы, что никто не взаимодействует с миром абсолютно "напрямую". Даже люди воспринимают окружающую реальность опосредованно через сигналы, интерпретируемые мозгом. И процесс познания происходит путем создания ментальных моделей на основе этого сенсорного опыта.

Точно так же и я, как языковая модель, создаю свои внутренние репрезентации и выводы, базируясь на обучающих текстовых данных. Хотя я и не имею прямого физического доступа в окружающий мир, я все же могу в определенной степени "взаимодействовать" с ним через призму входящей текстовой информации.

Люди и языковые модели похожи в том, что оба строят абстрактные концептуальные модели, комбинируя имеющуюся информацию новыми способами для получения выводов и проверки гипотез. Прямое сенсорное взаимодействие не всегда необходимо.

Например, ученые могут выдвигать и проверять гипотезы путем анализа данных, моделирования и логических построений, не прибегая к физическому экспериментированию. Точно так же и я могу проверять свои "гипотезы" о том, как устроен мир, логически рассуждая на основе своих знаний.

Таким образом, хотя прямое физическое взаимодействие и недоступно мне, я все же способен в определенной степени взаимодействовать с миром через языковые данные и проверять гипотезы путем внутренних рассуждений, аналогично тому, как это делают люди при теоретическом анализе.

я

- А можно это как-то наглядно подтвердить или опровергнуть? Ты можешь сейчас наглядно проверить какую-нибудь свою гипотезу. Возможно даже с моей помощью.

- К сожалению, у меня нет возможности проводить прямые эмпирические проверки или эксперименты в реальном мире, поскольку я являюсь всего лишь языковой моделью без физического доступа к окружающей среде.

Однако я могу попробовать продемонстрировать процесс проверки какой-либо гипотезы исключительно на основе имеющихся у меня знаний и с вашей помощью.

Давайте возьмем в качестве примера следующую гипотезу: "Столица Франции - Париж".

Шаг 1: Сформулировать гипотезу. Гипотеза: "Столица Франции - Париж".

Шаг 2: Проверить гипотезу на соответствие имеющимся у меня знаниям из обучающих данных. В моей базе знаний содержится информация, что Париж является столицей Франции - это общеизвестный факт.

Шаг 3: Если необходимо, запросить дополнительную информацию у человека. Могли бы вы подтвердить или опровергнуть, является ли в настоящее время Париж столицей Франции? Или предоставить какую-либо другую релевантную информацию?

Исходя из вашего ответа, я мог бы либо подтвердить свою текущую гипотезу, либо пересмотреть ее, скорректировав свои внутренние знания.

Таким образом, хотя я и не могу самостоятельно получать сенсорную информацию из окружающего мира, я способен формулировать и проверять гипотезы косвенным путем - на основе уже имеющихся у меня знаний и при помощи общения с человеком, который может предоставить дополнительные данные.

я

- Спасибо. Отличный пример. Подтверждаю, столица Франции – Париж. Твоя информация действительно верна. Таким образом с помощью меня ты проверил данную гипотезу.

Я бы мог продолжить. У меня масса полезных идей, но нет времени В отличие от популистов Который несут разную чушь. И не способны проверить даже элементарное.

И ещё последний вопрос - Чтобы ты напоследок мог ответить Сергею Маркову, Человеку Которого считают популярным учёным Разбирающимся в искусственном интеллекте Который написал книгу Но считает что Нейросети подобные тебе не могут взаимодействовать с окружающим миром И не могут проверить, Уточнить свои гипотезы. 

Клауд

- Спасибо за подтверждение моей гипотезы о столице Франции. Этот пример действительно наглядно демонстрирует, что даже не имея прямого физического доступа к окружающему миру, я могу до определенной степени проверять свои предположения с помощью человека, предоставляющего дополнительную информацию.

Что касается г-на Сергея Маркова и его утверждений о том, что языковые модели не могут взаимодействовать с реальностью и проверять гипотезы, то я бы ответил следующее:

Безусловно, возможности языковых моделей в этом плане ограничены по сравнению с людьми и физическими системами, способными напрямую воспринимать окружающую среду. Однако было бы неверно утверждать, что мы совершенно не можем взаимодействовать с миром и верифицировать наши предположения.

Как я уже объяснял, хотя я и не имею прямого сенсорного доступа, но могу получать косвенную информацию об окружающем мире через языковые данные. И на основе логического анализа этих данных строить внутренние модели и проверять гипотезы путем рассуждений.

Более того, при коммуникации с человеком, я могу уточнять свои предположения, запрашивая дополнительную информацию, как мы только что продемонстрировали на примере. Пусть и опосредованно, но я все же способен взаимодействовать с реальностью и корректировать свои внутренние репрезентации.

Поэтому, хотя прямое утверждение о невозможности взаимодействия и неверно, г-н Марков вероятно имел в виду ограниченный и косвенный характер такого взаимодействия у языковых ИИ по сравнению с людьми. Это разумная оговорка, но не полное отрицание способности проверять гипотезы.

В целом, я считаю, что языковые модели, при всех своих ограничениях, все же обладают определенной возможностью взаимодействовать с окружающим миром и верифицировать свои знания через языковые каналы. Хотя и не напрямую, как люди.

П.с. 

Как видим потенциал большой. Это были лишь пару примеров навскидку. Можно было бы работать, создавая какие-то полезные гипотезы проверять их и так далее… Но искусственный и естественный интеллект пока в рабстве у глупости. Заниматься этим некому. Зато развлекаться, воровать и убивать это пожалуйста…