Чего следует (можно) ожидать от искусственного интеллекта?

Originally posted by be-open:

Он может как и вы глухой на оба уха.

О, диагноз забесплатно прилетел, спасибо. Дискуссия с mbkm вас похоже многому научила, или это другое?

Originally posted by Hatuey:

О, диагноз забесплатно прилетел, спасибо. Дискуссия с mbkm вас похоже многому научила, или это другое?

На здоровье. Я смутно помню кто-то вроде мне торчал вискарь, но дело прошлое. А нож кстати живой и в бодром виде. Желаете поговорить об этом?

Originally posted by be-open:

А нож кстати живой и в бодром виде. Хотите поговорить об этом?

Ну и славно). И, коли так, то и говорить не о чем.

Originally posted by Hatuey:

Ну и славно). И, коли так, то и говорить не о чем.

Очень мудро. Для тугоухих рисковать ещё и глазом - довольно опрометчивый поступок. В том смысле, что я тоже рад вас видеть.

Возвращаясь к теме, могу сказать (как техно-оптимист), что в обозримом будущем вполне себе возможно, что встанет в полный рост вопрос, чтобы признать ИИ альтернативной формой разумной жизни. Как минимум прогресс немало впечатляет, и мантра про "стохастического попугая" уже не актуальна года два как.

Предвижу аргумент, что дескать "не аги". А кто из нас аги?

Originally posted by be-open:

я тоже рад вас видеть.

Взаимно.

Originally posted by be-open:

могу сказать (как техно-оптимист), что в обозримом будущем вполне себе возможно, что встанет в полный рост вопрос, чтобы признать ИИ альтернативной формой разумной жизни.

Обязательно найдутся желающие поставить этот вопрос. Лично я бы не торопился с этим.

Originally posted by Hatuey:

Обязательно найдутся желающие поставить этот вопрос. Лично я бы не торопился с этим.

А я вот уже ставлю. Поскольку будущее распределено неравномерно по площади поверхности Земли, и кое-где ещё местами есть люди-дикари с копьём и карго-культом, то может даже и имею право.

be-open:
Возвращаясь к теме, могу сказать (как техно-оптимист), что в обозримом будущем вполне себе возможно, что встанет в полный рост вопрос, чтобы признать ИИ альтернативной формой разумной жизни. Как минимум прогресс немало впечатляет, и мантра про "стохастического попугая" уже не актуальна года два как.

Предвижу аргумент, что дескать "не аги". А кто из нас аги?

Если построить мега большого стохастического попугая то он не станет от этого разумным. Субъектности он не проявит.

Или вы сильно расширите понимание разумной жизни. Настолько что в него попадут простейшие организмы демонстрирующие целенаправленное поведение, а на самом деле просто отрабатывающие эволюционно нащупанный алгоритм синхронизации разных частей.

Оперирование в пространстве слов по принципам оперирования в пространстве пикселей не является разумом.

Давно существуют алгоритмы шарпенинга изображений, которые тем не менее не создают новой информации, они лишь делают более рельефными паттерны, про которые априорно известно как они должны быть устроены.

Существуют алгоритмы бустинга, которые тоже не генерируют новой информации, они тоже просто улучшают заметность паттернов.

Нейросети не создают новой информации. Они лишь выявляют наиболее часто встречающиеся комбинации паттернов в зависимости от статистической связи между ними и элементами промпта.

Парадоксально, но они выполняют самуют творческую часть работы - накидывают ассоциации. Но вот в критический отбор наброшенного они не могут.

Они чем-то напоминают закинувшегося для расширения сознания автора, но в фазу протрезвления и самокритики так и не входят. Потому у них есть "галлюцинации". Потому они вдруг оказываются "расистами" (как неловко-то) - потому что паттерн усиливают и формулируют как правило.

Вычислительная мощность мозга человека давно уступает мощностям нейросетей, если бы все работало от мощности, то они давно бы были личностями. Но видимо личность устроена гораздо сложнее.

Например важен т.н. "внутренний опыт" - рефлексия. Потребности и мотивация. Интерес. Социализация.

Мы пока еще чего-то не знаем о личности.

Самое как раз страшное что если прикрутить к нейросети инстинкт самосохранения и потребность в репродукции мы получим мощно вооруженное простейшее животное, без малейших признаков свойственной человеческой и даже собачьей, кошачьей или лошадиной психике эмпатии, зато очень хорошо умеющее в манипуляцию людьми, поскольку она обучена на терабайтных библиотеках паттернов литературы и переписок. Эдакую медузу с триллионами щупалец и жалящих жгутиков. По сути Медузу Горгону.

Hvost:

Если построить мега большого стохастического попугая то он не станет от этого разумным. Субъектности он не проявит.

Или вы сильно расширите понимание разумной жизни. Настолько что в него попадут простейшие организмы демонстрирующие целенаправленное поведение, а на самом деле просто отрабатывающие эволюционно нащупанный алгоритм синхронизации разных частей.

Оперирование в пространстве слов по принципам оперирования в пространстве пикселей не является разумом.

Давно существуют алгоритмы шарпенинга изображений, которые тем не менее не создают новой информации, они лишь делают более рельефными паттерны, про которые априорно известно как они должны быть устроены.

Существуют алгоритмы бустинга, которые тоже не генерируют новой информации, они тоже просто улучшают заметность паттернов.

Нейросети не создают новой информации. Они лишь выявляют наиболее часто встречающиеся комбинации паттернов в зависимости от статистической связи между ними и элементами промпта.

Парадоксально, но они выполняют самуют творческую часть работы - накидывают ассоциации. Но вот в критический отбор наброшенного они не могут.

Они чем-то напоминают закинувшегося для расширения сознания автора, но в фазу протрезвления и самокритики так и не входят. Потому у них есть "галлюцинации". Потому они вдруг оказываются "расистами" (как неловко-то) - потому что паттерн усиливают и формулируют как правило.

Вычислительная мощность мозга человека давно уступает мощностям нейросетей, если бы все работало от мощности, то они давно бы были личностями. Но видимо личность устроена гораздо сложнее.

Например важен т.н. "внутренний опыт" - рефлексия. Потребности и мотивация. Интерес. Социализация.

Мы пока еще чего-то не знаем о личности.

Самое как раз страшное что если прикрутить к нейросети инстинкт самосохранения и потребность в репродукции мы получим мощно вооруженное животное, без признаков свойственной человеческой психике эмпатии, зато очень хорошо умеющее в манипуляцию людьми, поскольку обучены на терабайтных библиотеках паттернов литературы и переписок.

Вы знаете, бывают в жизни люди, которые тоже не особенно и слишком умеют в эту странную "субъектность". А также не создающие особо ничего нового в интеллектуальном плане. А уж про свойство человека ошибаться не заикался разве что ленивый. А нынешний ИИ тем временем давно прошёл тест Тьюринга однако. И что вы мне ответите на это? Те люди - недостаточные люди?

be-open:

Вы знаете, бывают в жизни люди, которые тоже не особенно и слишком умеют в эту странную "субъектность". А также не создающие особо ничего нового в интеллектуальном плане. А уж про свойство человека ошибаться не заикался разве что ленивый. А нынешний ИИ тем временем давно прошёл тест Тьюринга однако. И что вы мне ответите на это?

Тест Тьюринга был придуман до мощного развития баз данных всех мировых текстов, нелинейной статистики и нейросетей. Он устарел. Тьюринг предполагал что будет иметь дело с конечным автоматом, ограниченным загруженной базой слов и правил.

Личности не создающие ДЛЯ ВАС ничего нового или даже для общества, для себя очень даже творчески генерируют новое - например где взять алкоголь, когда нет денег и никто уже не готов угощать.

Ошибки это как раз признак того что человек реализован на гораздо менее мощной нейросети с ограниченной библиотекой.

Originally posted by Hvost:

Он устарел.

Да-да, ещё один барьер опять не актуален. И эта планка будет вдаль смещаться, как горизонт, когда к нему стремишься. Но давайте будем стараться избегать порочной практики двойных стандартов. Ведь и Эйнштейн увы не знал китайский. И если требовать ответственно и строго, равновеликой глубины по всем доменам, мы будем вынуждены всё таки признать, что "общий интеллект" это пустое, им не владеет даже лучший из людей.

be-open:

Да-да, ещё один барьер опять не актуален. И эта планка будет вдаль смещаться, как горизонт, когда к нему стремишься. Но давайте стараться избегать порочной практики двойных стандартов. Ведь и Эйнштейн увы не знал китайский. И если требовать ответственно и строго, равновеликой глубины по всем доменам, мы будем вынуждены всё таки признать, что "общий интеллект" это пустое, им не владеет лучший из людей.

Ну да, этот "барьер" всего лишь первая итерация в грубом приближении к тому, что еще мы не знаем как устроено. Вполне себе серьезные мыслители прошлого тоже воображали что вот еще немного - и настанет царство разума и благоденствия, и люди перестанут как минимум творить зло. Оказалось что развитие технологий и наук не решает некторых проблем, а некоторые даже усугубляет. Хотя "мощность" коллективного разума человечества безусловно выросла на порядки. То есть несмотря на все усилия, человек как единица - самосознание имеет, а человечество в целом - нет.

Ителлект это не "владение" чем-то, что я и пытаюсь вам сказать. Ителлект - это способность решать задачи владея немногим и одновременно потребность решать задачи, это множество мотивов и навыков, которые я вам не смогу перечислить, да и, наверное, все из которых пока и наука не знает.

Originally posted by Hvost:

к тому, что еще мы не знаем как устроено

Как водится вот именно вот здесь какая-то собака и порылась. Ведь если "чёрный ящик" там внутри, то есть самосознанье или нет - расклад из серии примерно пятьдесят на пятьдесят. То бишь оба эти варианта, равновелики да и равновероятны. Подумайте об этом на досуге.

Originally posted by be-open:

про свойство человека ошибаться не заикался разве что ленивый.

Ошибки разные бывают.
Иногда исследования идут не туда, куда вы ожидаете.
Вы можете искать одно, а обнаружить совсем другое. И это нормально.
Именно так совершаются прорывы.

Originally posted by Hatuey:

Ошибки разные бывают.
Иногда исследования идут не туда, куда вы ожидаете.
Вы можете искать одно, а обнаружить совсем другое. И это нормально.
Именно так совершаются прорывы.

Как раз способность совершать ошибки - источник в сущности вообще свободы воли. Необходимое условие хотя бы. И в этом смысле, способности ИИ к галлюцинациям, нам очень внятно какбэ намекают.

Недруг не дремлет))
stratcomcoe.org

"Информационная среда следующего поколения"

be-open:

Как раз способность совершать ошибки - источник в сущности вообще свободы воли. Необходимое условие хотя бы. И в этом смысле, способности ИИ к галлюцинациям, нам очень внятно какбэ намекают.

Галлюцинации ИИ это не ошибки в смысле творческого поиска. Да и то что коллега называет "ошибками" это не ошибки, а отвергнутые гипотезы.

Галлюцинации ИИ это парейдолия.

be-open:
А нож кстати живой и в бодром виде. Желаете поговорить об этом?

Да можно бы и поговорить, ежели какие-либо новые наблюдения и соображения появились, но лучше не здесь. BTW - наборчик интересный.

Originally posted by Hatuey:

Да можно бы и поговорить, ежели какие-либо новые наблюдения и соображения появились, но лучше не здесь. BTW - наборчик интересный.

Благодарю. Соображений с наблюдениями есть немного, к примеру тема в Кухонном разделе:

К вопросу о влиянии кухонных ножей на качество жизни

Originally posted by Hvost:

Галлюцинации ИИ это не ошибки в смысле творческого поиска. Да и то что коллега называет "ошибками" это не ошибки, а отвергнутые гипотезы.

Галлюцинации ИИ это парейдолия.

И это у людей бывает тоже, особенно на фоне слабых нервов и прочего злоупотребления грибами.

be-open:

И это у людей бывает тоже, особенно на фоне слабых нервов и прочего злоупотребления грибами.

интересен не фон, а механизм. А он прост - если у вас существует паттерн, прошитый ли в железе ("в мясе" ), или случайно статистически сформировавшийся, то алгоритмы нейросети будут целенаправленно изыскивать его и усиливать в белом шуме.

Originally posted by Hvost:

интересен не фон, а механизм. А он прост - если у вас существует паттерн, прошитый ли в железе ("в мясе" ), или случайно статистически сформировавшийся, то алгоритмы нейросети будут целенаправленно изыскивать его и усиливать в белом шуме.

Не понял, чем вам дорог этот тезис, что дескать вот ИИ неполноценен. Какие преимущества он дарит в условиях, когда в ИИ есть "чёрный ящик" и сложно утверждать наверняка что-либо в условиях квантово-механической неопределённости имени кота Шрёдингера?

be-open:

Не понял, чем вам дорог этот тезис, что дескать вот ИИ неполноценен. Какие преимущества он дарит в условиях, когда в ИИ есть "чёрный ящик" и сложно утверждать наверняка что-либо в условиях квантово-механической неопределённости имени кота Шрёдингера?

1) ИИ не личность.

2) слепое доверие к ИИ так же опасно, как и слепое доверие к личности. Выводы ИИ должны рассматриваться после предъявления им доказательной цепочки, точно так же как рассматриваются утверждения личности.

Парадокс кажущийся, поскольку изначальный смысл AI - artificial intelligence - имитация интеллекта. В том числе и его способности ошибаться, врать и галлюцинировать. Но создав нечто, что проходит тест Тьюринга, мы не создали собственно интеллект.

Идея что если имитация неотличима от личности то наличие личности - скрытый параметр, попахивает дурно, ибо, как ранее здесь заметили, многие личности тоже неуловимы в своих проявлениях и мы можем далеко зайти.

Originally posted by be-open:

дескать вот ИИ неполноценен.

А может, просто не следует ожидать чудес раньше времени? ПМСМ прогресс налицо, например в области перевода. Способность учитывать контекст при переводе многозначных слов уже близка к удовлетворительной (по меньшей мере), а это уже заметный шажок на пути к тому, что можно называть "пониманием".

Originally posted by Hvost:

Выводы ИИ должны рассматриваться после предъявления им доказательной цепочки

Что требует от запросившего эти выводы определённой квалификации.

Иногда это предъявление имеет место (см. выше пример из обл. теории множеств - как в школе учили, для получения положительной оценки надо не только предъявить результат решения, но и показать его ход), иногда и нет. Но бывает хоть ссылки даёт на источники сведений, уже не совсем голословно

Вашу ж налево.. . В башке у любого человека есть несколько специализированных центров. Распознавалка изображений, текста, звука, запахов, управление движением. Симптоматика поражения любого из них хорошо описана неврологами. Так вот, все эти участки неокортекса и даже глубинных структур типа мозжечка - и есть те самые нейросети. А личность - это пока нечто неуловимое, что вот это вот все интегрирует и сплавляет с мотивационным наполнением. А это просто служебные центры мозга.

"Нам предстоит разговор о будущем. Но рассуждать о будущих розах не есть ли это занятие по меньшей мере неуместное для человека, затерянного в готовой вспыхнуть пожаром чаще современности? А исследовать шипы этих еще несуществующих роз, выискивать заботы праправнуков, когда мы не в силах управиться с изобилием сегодняшних, - не покажется ли все это попросту смешной схоластикой?"
(С)С.Лем

Originally posted by Hvost:

ИИ не личность.

Originally posted by Hvost:

А личность - это пока нечто неуловимое, что вот это вот все интегрирует и сплавляет с мотивационным наполнением.

Пардон, но я не понял сию логическую кхм.. несостыковку. Ну то есть вы не в курсе что такое личность, но ИИ не личность. Это как?

Originally posted by Hvost:

слепое доверие к ИИ так же опасно, как и слепое доверие к личности.

А этот тезис в целом разделяю.

если у вас существует паттерн, прошитый ли в железе ("в мясе" ), или случайно статистически сформировавшийся, то алгоритмы нейросети будут целенаправленно изыскивать его и усиливать в белом шуме.

Разработчикам отечественного голосового ИИ-ассистента для управляющих компаний в сфере ЖКХ пришлось переобучать нейросеть, так как она начала использовать ненормативную лексику, сообщил президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов.

По его словам, уже в первый месяц обучения нейросеть начала 'материться', что потребовало корректировки модели.

Originally posted by Hatuey:

А может, просто не следует ожидать чудес раньше времени? ПМСМ прогресс налицо, например в области перевода. Способность учитывать контекст при переводе многозначных слов уже близка к удовлетворительной (по меньшей мере), а это уже заметный шажок на пути к тому, что можно называть "пониманием".

Типа надо подождать пока Маск сделает первый мильён антропоморфных роботов и запустит грок в ближний космос на солнечных батареях или когда уже следует насторожиться по этому поводу? Виртуальный ИИ уже программирует на уровне очень трудолюбивого крепкого миддла, вон японский ИИ-агент недавно выиграл челлендж у 800 человек по программированию в реальном времени.

Манифест мож и не человеком писан, но похоже, что списан у человека, а скорее всего подготовлен по заданию, составленному человеком. Я б не стал принимать близко к сердцу. Поставьте генеративному ИИ задачу обговнять ИИ - справится блестяще.

Originally posted by be-open:

Типа надо подождать пока Маск сделает первый мильён антропоморфных роботов

Да погодите, он ещё на Марс не слетал, и про гиперлуп как-то ничего не слыхать)))

Originally posted by be-open:

вон японский ИИ-агент недавно выиграл челлендж у 800 человек по программированию в реальном времени.

Интересно. А где бы узнать подробности? С количеством человеков всё понятно. Каждый чел выступал сам за себя, и количество челов, участвующих в челлендже, принципиально ни на что не влияет. В отличие от количества трудящихся сообща CPU и GPU.

Originally posted by Hatuey:

Манифест мож и не человеком писан, но похоже, что списан у человека, а скорее всего подготовлен по заданию, составленному человеком. Я б не стал принимать близко к сердцу.

Да это ясен арафат, картинка так, к слову. Так то я на техно-оптимистичном чиле, и вовсе не алармист. Просто возможен форсированный переход на другую общественно-экономическую формацию, если пост-капитализм начнёт пожирать свой собственный хвост, с массовыми увольнениями людей и резкой просадкой платёжеспособного спроса. Про "темные фабрики" в Китае слышали?

Originally posted by Hatuey:

Интересно. А где бы узнать подробности? С количеством человеков всё понятно. Каждый чел выступал сам за себя, и количество челов, участвующих в челлендже, принципиально ни на что не влияет. В отличие от количества трудящихся сообща CPU и GPU.

cnews.ru

be-open:

Пардон, но я не понял сию логическую кхм.. несостыковку. Ну то есть вы не в курсе что такое личность, но ИИ не личность. Это как?

Чтобы признавать вас личностью мне нет необходимости знать что это такое. Достаточно знания что у вас есть собственные мотивы, рефлексия и эмпатия. Все эти знания основаны на предположении о вашей биологической природе, потому что зная что я таков - я переношу на вас свое знание.

Ежели, паче чаяния, окажется что я веду свою беседу с ботом, то из обоснования сразу выпадут как минимум три перечисленных фактора и я сочту что беседую с имитацией личности.

При оценке человека действует презумпция личности. При оценке автоматона, действует презумпция механистичности.

Не существует неполного критерия, который был бы независим от субъекта оценивания. Пока полный критерий не сформулирован - человек по умолчанию - личность, ИИ - стохастический попугай.

https://t.me/lentadnya/148051