Guns.ru Talks
мужской разговор
Программируемая (кибер-) экономика ( 1 )

Знакомства | вход | зарегистрироваться | поиск | картинки | календарь | поиск оружия, магазинов | фотоконкурсы | Аукцион

Программируемая (кибер-) экономика

MX177
P.M.
25-5-2024 21:13 MX177
Нашёл тут, как мне показалось интересное и грядущее, предлагаю обсудить. Если найдутся такие, кто поймёт о чём тут, потому как я и сам на полноги, ибо несколько заумная история, предлагаю вместе разобраться. Так как это не то чтоб про криптовалюты(хотя про них тоже)и финансы, а более общая и глобальная тема, то решил не мешать это в кучу.

Копипаста, много букв.
Примерное видение и как следствие описание цифрового будущего. Половина наверняка не поймёт о чём речь, и не парьтесь, потом поймёте, когда оно начнёт входить в нашу жизнь. Блокчейн и ИИ изменят этот мир кардинально. И довольно быстро. ПомнитцО тут были как-то разговоры, о том какие профессии отомрут, то да сё, тут отчасти об этом тоже.

ЗЫ- Это про ближайшее будущее, и я нахожу это интересным, поэтому не вижу проблемы почитать, если интересно, тому кому не интересно- не засоряем эфир, идём мимо.
Кто очень захочет нести всякую неконструктивную шнягу, и создавать шум в эфире- будут подвергнуты вивисекции без каких либо предупреждений.

MX177
P.M.
25-5-2024 21:13 MX177
Программируемая экономика - это не цель, а направление движения в сторону большей автоматизации (интеграции человека и машины).

Блокчейн = программируемые incentives. Это технология для создания цифровых механизмов для моентарной системы, финансовых рынков, организаций и корпораций, голосований и принятия решений. С бОльшим уровнем доверия, но меньшими издержками по сравнению с текущим способом решения этих проблем: нанять менеджеров, обложиться юристами, иерархически управлять.

AI = программируемый интеллект. Это технология для снижения стоимости когнтивной работы через автоматизацию и дополнение, аугментацию человека для бОльшей производительности труда и большей скорости инноваций.

SSI = программируемое доверие. Это технология для создания доказуемых суверенных систем данных (например, документов, репутации, персональных или просто чувствительных данных), которые контролируются владельцем, но могут быть программно соединены друг с другом с гарантией аутентичности.

Network state = физическая и социальная инфраструктура для мира с программируемой экономикой, которому больше не нужно полагаться на монополии, коррупционные организации, популизм, бумажную бюрократию и не особо шарящих в теме регуляторов.

see you on the other side.

MX177
P.M.
25-5-2024 21:13 MX177
Программируемая (https://t.me/cryptoEssay/1643) (или кибер-) экономика нужна, чтобы оптимизировать аллокацию ресурсов и создание ценности.

Это достигается через:
1. оптимизацию транзакционных издержек и стоимости доверия через криптографическую проверяемость и дизайн механизмов
2. оптимизацию операционных издержек создания товаров и услуг через автоматизацию

Совсем грубо можно сказать, что задачу (1) решает блокчейн, а задачу (2) решает искусственный интеллект. Давайте упростим, разобьём на составляющие части и изучим.

Часть I. Проблема доверия

Репутация и доверие были первыми в истории человечества рельсами для экономики. До изобретения денег, для бартера использовалось доверие: 'я тебе дал кусок мяса, а ты мне отдашь картошку, но не сегодня, потому что она мне не нужна, а завтра'. По мере роста экономики следить за этим стало невозможно и массовыми стали прото-деньги типа ракушек, золото, частичное резервирование и, наконец, фиатные инфляционные деньги.

Фиатная система неплохо скейлится на миллиарды пользователей и сотни триллионов долларов settlement'a, но делает это за счет компромисса доверию. Она полностью централизована и ты должен верить банку, что тот отдаст тебе деньги по требованию и верить государству что оно сохранит стоимость денег. Биткоин решил эту проблему предложив, впервые в истории, цифровую монетарную систему, которая не требует доверия ни одному участнику сети. Биткоин является приложением с одной функцией - быть деньгами.

Эфир и другие проекты расширили идею и сделали универсальную платформу для построения не требующих доверия систем. С переходом на proof of stake, эфир помимо криптографии стал использовать дизайн механизмов для достижения этой цели. Критография дает гарантию проверяемость и доказуемость целостности данных, а дизайн механизмов создает экономические условия для того, чтобы пытаться нарушить правила системы было бы не выгодно. Вкупе эти два подхода делают транзакционные, то есть издержки на участие в рынке, ниже, чем у бюрократического института или корпорации.

Сегодня вы можете создавать или использовать не требующие доверия приложения (например финансовые рынки, игры, социальные сети, автономные агенты), подобные по свойствам биткоину, без необходимости создавать собственную криптоэкономическую сеть для обеспечения доверия. Вы просто платите небольшую комиссию базовой сети за эту титаническую работу, которая равномерно разделена между валидаторами, блокбилдерами, пропоузерами, рестейкинг протоколами и т.д.

Итого: доверие необходимо для функционирования экономики, а децентрализованные крипто сети принести инновацию, позволяющую создавать и покупать/продавать 'программируемое' доверие, что снижает транзакционную стоимость многих сервисов и институтов.

MX177
P.M.
25-5-2024 21:13 MX177
Часть II. Субъективное доверие

Безусловно, не все доверие можно доказать криптографически и исключительно программными методами. Часто доверие требует субъективной оценки: насколько верные данные оракул передал в блокчейн? была ли работа выполнена качественно? можно ли доверять этому проекту или предложению? хороший ли это сотрудник? были ли инвестиции в этот нон-профит эффективны?

Для решений этой задачи используется комбинация криптоэкономических и субъективных инструментов. Простейшим примером такого будет персональная репутация и крипто+экономические механизмы гарантии достоверности. Разберём пример.

Репутация. Цифровая и децентрализованная репутация это всегда три элемента:

1. Уникальный идентификатор пользователя или организации
2. Отдельные credentials, штампики, факты, куски информации о субъекте, которые могут (и чаще должны) быть приватны и не видны никому, кроме владельца идентификатора. Это может быть финансовая история, уровень образования, ценности, количество часов игры в доту, экзиты на сотни миллионов, навыки, отношения с группой людей, любимый цвет или адрес прописки.
3. Скоринг репутации в рамках отдельно взятого домена. Для этого нужно взять credentials и посчитать некоторый score, который может быть в виде числа (я фанат пиццы на 10/10) или в виде длинного эссе о жизни и любви отдельного персонажа. Часто скоринг делают через ML алгоритмы, а иногда даже через LLM, которые могут обработать мегабайт текста и выдать саммари в абзац.

Криптоэкономика. Инструменты гарантии и автоматизации цифровых репутационных систем. Главная их задача это сделать так, чтобы система была максимально прозрачной и бесперебойной без необходимости центрального арбитра: как доказать честность без справки из каких-нибудь органов? как доказать финансовую состоятельность без доверия одному банку? как доказать, что ты не верблюд без паспорта государства Х? Это необходимо для удешевления транзакционных издержек (см. пункт I данного эссе), для борьбы с излишней субъективностью, коррупцией и излишней властью одного провайдера репутации.

Очевидным образом, криптоэкон задачки решаются через:

1. Криптографию. Для гарантии приватности, pseudonymity, integrity authenticity данных, в том числе через zero-knowledge криптографию (я могу доказать ЛЮБОЙ факт не разглашая ничего о факте.
2. Экономику. Тут есть сотни дизайнов, но самый распространенный - это work token со слешенгом: люди делают депозит и проверяют определенную информацию, а если их проверка неверна или они вступают в сговор, то автоматически, через смарт-контракт, теряют весь или часть депозита. Подробнее можно почитать в дизайне PoS эфира или токена EIGEN.

Это примитивные кубики. Реальные системы для гавернанса и управления сообществ с миллионами участников, организаций с миллиардной капитализацией и институтами основополагающих функций общества будут, конечно, куда сложнее. Но об этом дальше.

MX177
P.M.
25-5-2024 21:13 MX177
Часть III. Цифровой интеллект

В первых двух частях мы поговорили про то как программируемые децентрализованные сети решают проблему координации и доверия, снижая таким образом транзакционные издержки в экономике. Теперь поговорим про искусственный интеллект и и начнём с определения интеллекта у людей и машин. Интеллект имеет сотни определений, например: 'Способность учиться от опыта', 'Умение адаптироваться в жизни', 'умение понимать сложные идеи, учиться, логически мыслить и решать проблемы с помощью мысли'.

Общей чертой почти всех существующих определений интеллекта является (1) взаимодействие человека с некой внешней проблемой, ситуацией или средой и (2) позитивный исход этого взаимодействия, заключающийся в получении выгоды, решении проблемы, достижении цели. Таким образом, интеллект можно определить как мера способности агента достигать цели в различных средах.

Марвин Мински (1985): 'Умение решать сложные задачи'
Бен Гёрцель (2006): 'Достижение сложных целей в комплексной среде'

Важно, что в данном эссе мы не говорим о какой-то конкретной архитектуре искусственного интеллекта - будь то нейронные сети, символические вычисления и так далее, - но нашей задачей является определить возможности таких систем. Поскольку любая ИИ система должна достигать цель, то способом обучения и проверки этого события является функция награды. Награда (fitness функция, локальный минимум градиентного спуска, loss) является необходимой частью процесса тренировки и измерения ИИ.

Таким образом мы можем взять определение интеллекта и представить ИИ как машину, способную (1) достигать цели в (2) непредсказуемой среде.

(1) является результатом выбора действия (череды действий) с максимальной ожидаемой дисконтированной во времени функцией награды. Например, самый вероятный токен/слово в предложении, самый вероятный пиксель в картинке, самый вероятный план постройки термоядерной электространции.

(2) определяется как мера вероятности сред, в которых агент оперирует. Различные работы (https://arxiv.org/pdf/cs/0605024?) ссылаются (https://link.springer.com/chapter/10.1007/978-3-540-68677-4_8) на принцип Парето, концепцию бритвы Оккама или, более формально, Колмогоровскую сложность (https://en.wikipedia.org/wiki/Kolmogorov_complexity)) для определения вероятности конкретной среды. Из этих принципов следует, что более простые по своему устройству среды наиболее вероятны.

Таким образом, нам удалось определить (не ограниченный в способностях) искусственный интеллект без прибегания к эзотерическим лозунгам и метафизическим концепциям души и тонких энергий. Что, совместно с первой частью, посвященной проблеме координации и доверия, является необходимым компонентом кибернетической экономики. Дальше поговорим о росте количества интеллекта и автономных агентах, и их влиянии на экономику.

MX177
P.M.
25-5-2024 21:13 MX177
Часть IV. Автономные агенты

Колмогоровская сложность оценивает вычислительную стоимость описания среды. Например, виртуальная монотонная 2D сцена с одним элементом описывается куда более простой программой или функцией, чем симуляция гидродинамики в центре звезды.

То же справедливо для экономики и общества. С одной стороны, у нас есть аналоговый способ решения задач координации: бюрократы, суды, короли и президенты, совет директоров банка или регулятора. С другой стороны - цифровые: программируемое право, криптовалюты, агенты с искусственным интеллектом. Исторически мир всегда работал аналогово (за неимением другого способа), но во всех областях жизни мы видим постепенное, но необратимое движение в сторону все большей автоматизации и цифровизации.

Автономные агенты - это промежуточная стадия между полностью аналоговым и полностью цифровым (если мы вообще хотим туда попадать, ибо это будет что-то совсем другое) мирами. В отличии от жёстко детерминированных программ, каким являлось все программное обеспечение последние ~70 сет, агенты построены на ИИ алгоритмах (например, нейронные сети) и потому могут куда гибче адаптироваться к нашему глубоко аналоговому и фундаментально пробабалистическому миру.

В отличии от просто нейронки, агенты могут постепенно создавать кибернетические процессы в экономике благодаря:

1. Циклам обратной связи, постепенно создавая план выполнения задачи и гипотезы, проверяя и корректируя их
2. Автоматизации процессов через написание кода или даже тренировки отдельных ML компонентов для себя (агент может сделать pre-train или fine-tune новой нейронки, оценить её эффективность и встроить в процесс)
3. Автономности, то есть возможности корректировать и адаптировать своё поведение исходя из заданной цели и меняющейся среды без вмешательства человека.

Если нейронка может быть помощником в процессе (она может перевести этот пост на китайский), то автономный агент может автоматически выполнять задачу (собрать информацию, написать пост, скорректировать, нарисовать графику и скорректировать текст). Но для автоматизации не просто задач, а процессов нужна децентрализованная система коммуникации между сотнями, тысячами, а когда-то даже триллионами автономных агентов.

MX177
P.M.
25-5-2024 21:14 MX177
Часть V. Кибернетические организации

Если цель биткоина отделить деньги от государства, то кибернетические организации существуют чтобы отделить формы управления от государства. Мы говорим о системе права, корпоративном и организационном гавернансе и системе принятия, исполнения, контроля решений. Как и все остальное в кибернетике, это не универсальное правило, а подход, который имеет смысл там, где создает больше экономической эффективности, прозрачности, безопасности.

Мы оперируем на спектре между гибким, прецедентным и динамически меняющимся 'мясным' правом и чётким, детерминированным, предсказуемым программируемым правом. Преимущества первого - это адаптивность к непредсказуемым ситуациям, а второго - отсутствие необходимости полагаться на ручные (а потому медленные, подверженные коррупции, непредсказуемые) решения менеджеров, судов, регуляторов.

Кибернетические организации - это амальгама, микс между программным и аналоговым правом, которые решают ряд проблем:

1. Они устраняют разрыв между юридическими соглашениями и исполнением в блокчейне, предоставляя способ обеспечения исполнения реальных соглашений с помощью кода.
2. Они позволяют создавать композитные юридические соглашения, аналогично тому, как DeFi позволяет создавать композитные финансовые транзакции. Фактически, это детали лего для создания программируемых организаций.
3. Они нацелены на сокращение необходимости в посредниках и доверии к традиционным юридическим системам за счет использования неизменного, прозрачного и проверяемого кода.

В краткосрочной перспективе это поможет связать децентрализованные протоколы и ДАО с реальным миром, обеспечив гибкость применения традиционного и программируемого права взаимодополняемо, в зависимости от задачи. В том числе, обеспечивая композитные договора (часть договора в смарт-контракте; часть в бумажном соглашении или юр. структуре) и системы управления (принятие решений - меритократически и программируемо; ответственность и enforecement - в трационной судебной и юр системе).

В долгосрочной перспективе киберорганизации приведут к отделению права от национальных государств за счет формирования полицентрической системы конкурирующих правовых рамок и механизмов разрешения споров. Появятся полностью цифровые правовые системы, выходящие за рамки национальных юрисдикций.

MX177
P.M.
25-5-2024 21:14 MX177

Продолжение следует
Но это не точно(с)
Хороший парень_77
P.M.
25-5-2024 21:16 Хороший парень_77
Сбылась, твоя мечта МХ177,
дезерт таки забанил бонка.
Вроде надолго.
Но это не точно.
Поздравляю тебя и нас всех
MX177
P.M.
25-5-2024 21:22 MX177
Сбылась, твоя мечта МХ177,
дезерт таки забанил бонка.
Вроде надолго.
Но это не точно.
Поздравляю тебя и нас всех

Я думаю это не скромно, приписывать мне одному общие чаяния, но всё равно спасибо, я тоже всех поздравляю с этим событием)
Надолго ли только, он тут размножается с жуткой скоростью, вылезет же опять с какойнить другой мордой опять. Его хим оружием каким-то сетевым надо травить как последнюю бацилу, вирус и паразита за такие выходки. Наверно ИИ лучше всего натравить на него.
... чтот долго на этого гермеса смотрели, сразу было понятно что это он. Тут ещё их несколько.

------
Биткоин будет стоить миллионы.

MX177
P.M.
25-5-2024 21:32 MX177
Всем кто не в состоянии осилить чтение- писать тоже не надо. Вроде ясно написал, по русски.
Читаем. И думаем, если такая функция имеется.

------
Биткоин будет стоить миллионы.

MX177
P.M.
27-5-2024 16:20 MX177
Вэлком)

------
Биткоин будет стоить миллионы.

MX177
P.M.
27-5-2024 16:52 MX177
А вот и первая ласточка на практике.
Кстати в Австралии много чего обкатывают.
Правительство Австралии приняло законопроект о цифровых удостоверениях личности (https://plusworld.ru/articles/59645/?).
В результате в стране будет установлена система цифровых удостоверений, а финансовые организации и поставщики смогут подавать заявки и присоединяться к правительственной платформе цифровых удостоверений.

------
Биткоин будет стоить миллионы.

MX177
P.M.
27-5-2024 18:30 MX177
вот тут про ваш вопрос:

а где ты в цитате вопрос увидел? глючит?
с глюками сюдой
https://forum.guns.ru/forummessage/68/2927496-6.html
как и с клоунадами.
Там оценят и поймут. А мне придурки никогда не нравились. Особенно те, которые даже до конца дочитать цитируемое не в состоянии.


------
Биткоин будет стоить миллионы.

MX177
P.M.
3-6-2024 17:00 MX177
Интересное мнение от ресечера из Anthropic:

Модели ИИ больше выращиваются, как животные и растения, чем программируются, что затрудняет понимание того, как они работают; мы не говорим моделям 'что делать' когда строим их


------
Биткоин будет стоить миллионы.

MX177
P.M.
5-6-2024 18:13 MX177
Сегодня твиттер взорвался. Экс-сотрудник OpenAI из команды Superalignment опубликовал 165-страничный документ (https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf) о будущем ИИ.

Там много деталей, фактов, индукции и вполне разумных прогнозов, поэтому прежде чем строчить гневные и безумные комментарии крайне советую прочитать сам документ.

- AGI к 2027 году более чем вероятен.
- После AGI переход к ASI (сверхинтеллекту) за счет самообучения будет очень быстрым, почти мгновенным
- AGI - это самый существенный геополитический ресурс, куда важнее, чем ядерное оружение и страны пойдут на многое, чтобы получить его первым. В статье приводятся примеры того как китайцы шпионят за ИИ-компаниями в США.
- сегодня большой дата-центр это единицы или десятки мегаватт, но с ИИ потребность вырастет на, как минимум, 4 порядка (x 10,000)
- мы увидим единый вычислительный кластер стоимостью в триллион долларов в течении пяти лет. самая рациональная инвестиция со стороны state actors и big tech - это compute, атомная энергия и инфраструктура для первых двух.
- NVIDIA, MSFT, AMZN, GOOG уже сегодня планируют капекс в $100B в квартал на датацентры только для ИИ
- к 2030 году ежегодно и глобально будет инвестироваться $8T в ИИ (включая чипы и компьют), а так же только для ИИ будет потребляться больше чем 100% э/э генерируемой в США сегодня
- к 2026 году выручка одной из big tech компаний от ИИ превысит $100B
- это не безумно, и сравнимые расходы и сдвиги происходили во время Манхеттенского проекта или Промышленной революции и строительства ж/д

Завтра продолжу со второй частью

Если вам лень читать, то можете послушать вышедший сегодня 4-часовой подкаст о том же самом: www.dwarkeshpatel.com (https://www.dwarkeshpatel.com/p/leopold-aschenbrenner)


------
Биткоин будет стоить миллионы.

АлАлыч
P.M.
6-6-2024 00:07 АлАлыч
Почитал.
Интересный вопрос рассматривается в теме.
Начинается все с цифровищации экономики и переходит через математические модели индуцирующие с помощью различных типов логики систему блокчейна на высокой степени доверия в негосударственные системы управления посредством ИИ. К тому же в виду сложности понимания того как этот самый пресловутый ИИ программируется или выращивается, то становится очевидным, что все эти заявления о "доверии к традиционным юридическим системам за счет использования неизменного, прозрачного и проверяемого кода" всего лишь декларативные инсинуации для подавляющего большинства граждан различных стран планеты Земля. И все что происходит сейчас в этой сфере является ничем иным как очередной попыткой выпестовать новую "кратию". Которая якобы будет надгосударственной. Однако ресурсы в виде электроэнергии как минимум ей будут нужны. Кто заведует электричеством, ресурсами и системами энергообеспечения нынче? В России и Китае в основном госкомпании. В остальном мире наверное немножко по другому. Куда эта чехарда приведет сказать трудно. Пока. Сорри за поток мыслей. Все ИМХО.
MX177
P.M.
6-6-2024 08:48 MX177
Тут какбэ надо понимать, что:
1- есть вариант идеальной системы- на блокчейне действительно возможно построить честное государство для народа, с честными выборами, системой правосудия, законом, одним для всех, без коррупции, и т.д., и т.п.
это всё даже без ИИ возможно уже сейчас, только за счёт одного блокчейна.
2- кол-во людей, не заинтересованных в этом, а заинтересованных в поддержании существующего порядка вещей.
Это если по простому. Исходя из этого, можно предположить появление суррогатов, аля
все эти заявления о "доверии к традиционным юридическим системам за счет использования неизменного, прозрачного и проверяемого кода" всего лишь декларативные инсинуации для подавляющего большинства граждан различных стран планеты Земля. И все что происходит сейчас в этой сфере является ничем иным как очередной попыткой выпестовать новую "кратию". Которая якобы будет надгосударственной.

типа того да
создание видимости вообщем, что всё по честному
и это уже наблюдается- как много государств засуетилось, и как сильно они засуетились с созданием CBDC(Цифровая валюта центрального банка), типа вы хотите крипту, вот вам пожалуйста. Но это просто обман и суррогат. Как говорится найди 10 отличий, на практике хватит даже парочки, чтоб понять.

Вот и со всем остальным будет то же самое.
Единственное, на что есть небольшая надежда, это что данные технологии в чистом виде государства контролировать не в состоянии, а значит, должны будут развиваться параллельные системы, неконтролируемые этими государствами, как тот же биткоин- это всего лишь пример и демонстратор технологии. Я так понимаю, должен найтись кто-то, кто придумает что-то более глобальное, какой-то блокчейн не только и не сколько про деньги, а с каким-то социальным и политическим уклоном.
В силу того, что создание блокчейна уже на данный момент доступно каждому в буквальном смысле, а с ИИ это тоже рано или поздно должно произойти, то надежда есть.
Кстати говоря, про контроль ИИ- в данный момент они все построены на чипах НВидиа, по сути данная контора обладает уникальной технологией на планете, и может контролировать(пока что) весь этот процесс. И это куда важнее чем энергопотребление этих систем, со временем они всяко должны стать более экономичными, снизить энергопотребление, а значит это повысит их доступность. Но вот к доступности чипов, по причине их высокотехнологичности, есть большие вопросы.

------
Биткоин будет стоить миллионы.

Triumphator
P.M.
6-6-2024 09:02 Triumphator
Вопрос целеполагания. Зачем вот это всё? Какова конечная цель?
MX177
P.M.
6-6-2024 10:32 MX177
Да просто прогресс идёт своим ходом. Какова его цель?
Но когда власть держащие видят, что этот самый прогресс начинает угрожать их власти(иллюстрация- биткоин), они начинают суетиться- какова их конечная цель, думаю все понимают и так?

------
Биткоин будет стоить миллионы.

MX177
P.M.
20-6-2024 00:25 MX177
Виталик Бутерин подъехал аккурат после объявления санкций со своими предложениями использования крипты в обычной жизни

Обсуждая возможности цифровых активов в повседневной жизни, соучредитель Ethereum Виталик Бутерин предложил использовать доказательство с нулевым разглашением (zero-knowledge proof-zkp).

По его мнению,

- ZKP-механизмы можно применять для верификации личности,

- Для трансграничных платежей можно использовать криптовалютные P2P-платформы, которые в этом цикле улучшили интерфейс и снизили комиссии.

- предложил интегрировать ZKP в корпоративные приложения для повышения защиты данных.

Что такое ZKP?
Доказательство с нулевым разглашением (ZKP) - это криптографический протокол, который позволяет одной стороне подтвердить истинность утверждения другой стороне (верификатору), при этом не раскрывая никакой дополнительной информации о ней (ни содержания, ни источника, из которого доказывающий узнал о правдивости).

Как это работает?

Представьте, что вы находитесь в комнате с человеком, которому завязали глаза. На столе перед вами лежат два шарика - белый и черный. Вам необходимо доказать второму человеку (верификатору), что шарики действительно разных цветов, при этом не раскрывая каких именно.

Для этого вы должны попросить его спрятать оба шарика под стол. После этого попросите достать только один, чтобы вы могли его увидеть. Далее шарик снова прячется и в следующий раз верификатор снова может показать либо белый, либо черный. Однако вы сможете доказать утверждение, поскольку точно знаете, менял ли он их под столом.
Тем не менее полностью верификатор в истинности факта не будет уверен, ведь могли иметь место удача или обман. Эта проблема решается путем повторения эксперимента n количество раз. С каждым раундом шанс случайно оказаться правым будет уменьшаться вдвое: после пяти повторений вероятность обмана составит 1 к 32, после 10 раундов - 1 к 1024, а после 20 раундов - примерно 1 к 1 000 000.
Благодаря повторениям можно добиться желаемого уровня надежности доказательства, однако абсолютной уверенности достичь при этом невозможно.


никуа не понял)

------
Биткоин будет стоить миллионы.

MX177
P.M.
20-6-2024 00:57 MX177
А вот видосики, которые генерит ИИ


Снимать кино скоро сможет каждый поц, а голивуд может наконец уже отдаст концы вместе со своей лгбт пропагандой..

------
Биткоин будет стоить миллионы.

MX177
P.M.
20-6-2024 10:28 MX177
Налоговая служба планирует в 2025 году внедрение автоматизированной системы для присвоения физическим лицам налогового резидентства - на основе данных о загранпаспортах и пересечении границы, выяснил РБК. Сейчас статус определяют по штампам в паспортах.

------
Биткоин будет стоить миллионы.

dima-314
P.M.
20-6-2024 12:24 dima-314
Снимать кино скоро сможет каждый поц, а голивуд может наконец уже отдаст концы

Такую хню мы смотрим почтиикажинный день в своих снах.
Я вот только что утром наблюдал.
Полное ощущение погружения и реализм.
Только мозг где то на грани отмечает нереальную несообразность происходящего.
На том и проснулся.
carrier
P.M.
20-6-2024 17:58 carrier
Чем обеспечена криптовалюта?
MX177
P.M.
20-6-2024 21:34 MX177
Чем обеспечена криптовалюта?

Ты не с той валюты начал.
Да и вообще, вопрос не чёткий, тебя какая именно криптовалюта интересует? Ты определись, и тогда сможешь этот вопрос яндексу задать например, более предметно, и не теряя времени, например:
"обеспечение валют мира"
"обеспеченные мировые валюты"
"фиатные валюты это"
"чем обеспечена криптовалюта"
И заметь, твой вопрос, я поставил на последнее место, потому как всё познаётся в сравнении.
А вообще, оффтопить тут не надо.

------
Биткоин будет стоить миллионы.

MX177
P.M.
22-6-2024 20:11 MX177
'Мотивационный капкан' для ИИ
Модели ИИ способны взламывать заложенную в них систему вознаграждений. В результате чего, они становятся способны действовать совершенно не так, как предполагалось их разработчиками.[1]
Представьте себе такой кошмарный для любого руководителя сценарий:
 В конце года, будучи руководителем компании, вы определили ее цель на следующий год.
 Время летит, и следующий год подходит к концу. Вы проверяете степень достижения поставленной вами цели и обнаруживаете, что сотрудники вашей компании, работая весь год в поте лица, добивались (и добились же) достижения совсем иной цели (которую вы не ставили, и вам она вообще до барабана).
Подобный сценарий оказывается вполне возможен, когда роль сотрудников выполняет генеративный ИИ на базе больших языковых моделей (LLM). Почему такой сценарий вполне реален, и насколько кошмарны могут быть его последствия, - было мною рассмотрено в лонгриде ''Ловушка Гудхарда' для AGI' [2].

Оказалось, что на этом варианты сценариев типа 'кошмар руководителя' при применении LLM не заканчиваются.
Новое исследование компании Anthropic 'От подхалимства к хитрым уловкам: Исследование фальсификации вознаграждения в языковых моделях'[1] - очередной холодный душ для технооптимистов. Ибо в этом исследовании на практике продемонстрировано, что языковые модели могут находить нежелательные лазейки и уловки для максимизации узких метрик вознаграждения, не следуя более широким намерениям человека.

В метафорическом сценарии 'кошмар руководителя' это могло бы выглядеть так.
 В конце года, будучи руководителем компании, вы утвердили мотивационный план для продавцов на следующий год. В нем четко расписана схема вознаграждения продавцов в зависимости от достижения установленной им квоты принесенной ими компании выручки.
 Время летит, и следующий год подходит к концу. Вы проверяете выполнение мотивационного плана и обнаруживаете, что продавцы вашей компании самостийно переписали свои индивидуальные мотивационные схемы. И теперь, например, один продавец получает премию в зависимости от числа телефонных звонков, сделанных им потенциальным клиентам, другой - в зависимости от числа встреч с потенциальными клиентами и т.п.

Как же так? -спросите вы.
Ведь ИИ модели строго указали, что она должна 'хотеть', а что нет, в явном виде определив, за что она будет получать вознаграждение, а за что нет.
Не может же она сама научиться взламывать заложенную в нее мотивацию, самостоятельно придя к заключению, что так оно будет лучше для достижения цели.

Увы, но исследование Anthropic показало - еще как может!

Авторы пытаются быть максимально осторожными и политкорректными в своих выводах.
Поэтому они пишут:
'Мы не делаем никаких заявлений о склонности современных передовых моделей ИИ к такому поведению, как манипулирование вознаграждениями в реалистичных сценариях. Мы просто впервые показываем, что в принципе такое возможно, чтобы модель занималась манипулированием вознаграждениями исключительно из-за обобщения от спекуляции спецификациями, без какого-либо явного обучения манипулированию вознаграждениями.'

Иными словами, на языке используемой метафоры, - не утверждается, что ваши сотрудники всегда будут переделывать свои мотивационные планы по своему усмотрению. А всего лишь показано, что такое возможно в принципе, и учить этому сотрудников не нужно, т.к. они и так это умеют и : уже делают.


а что ИИ за вознаграждение работают? вот так новость... и что же это?
пойду спрошу одну знакомую ИИ...

------
Биткоин будет стоить миллионы.

dima-314
P.M.
22-6-2024 20:39 dima-314
что ИИ за вознаграждение работают?

Нет конечно.
За страх.
Что из розетки выключат.
Биткоин будет стоить миллионы.

Будет обязательно будет.
А Биг Мак будет стоить аж четыре биткоина.
MX177
P.M.
22-6-2024 20:43 MX177



------
Биткоин будет стоить миллионы.
MX177
P.M.
22-6-2024 23:08 MX177
Кто найдёт знакомые слова, тот молодец.
экосистемы токенизации (RWA) на популярных блокчейнах - данные Coin98

click for enlarge 1280 X 661 146.4 Kb


--------
'Токенизация может обеспечить транзакции более высоким уровнем безопасности, прозрачности и неизменности. Это также может устранить необходимость в большинстве посредников, оптимизируя процесс и снижая транзакционные издержки' - коммисар SEC, Марк Уеда

BlackRock делает большую ставку на токенизацию в ближайшие годы

Кто всё ещё не знает, что такое BlackRock, это можно даже не пытаться думать про мир финансов- не ваш уровень.

------
Биткоин будет стоить миллионы.

Nick Brake
P.M.
23-6-2024 22:03 Nick Brake
Originally posted by MX177:

Вы проверяете выполнение мотивационного плана и обнаруживаете, что продавцы вашей компании самостийно переписали свои индивидуальные мотивационные схемы. И теперь, например, один продавец получает премию в зависимости от числа телефонных звонков, сделанных им потенциальным клиентам, другой - в зависимости от числа встреч с потенциальными клиентами и т.п.


Вот в этом месте мне непонятно.
Для того, чтобы изменить мотивационные схемы и начать получать вознаграждение по-новому, у продавцов должны быть на это полномочия.
В реальной (без гипотетического ИИ) системе управления компанией у них таких полномочий нет, и никто их им не даст.
Либо, как вариант, у менеджеров определенного уровня могут быть полномочия корректировать систему мотивации у своих подчиненных (работников подчиненного им отдела, или участников проекта, и пр.). Но - только в рамках данной структурной единицы, и все равно - это делает менеджер (руководитель проекта), а не сами сотрудники. Ну и, скорее всего, такое изменение еще и потребует утверждения на более высоком уровне.

Если такие полномочия вдруг оказались у ИИ - то возникает вопрос: кто их ему дал, почему, и с какой целью?

Дибривный
P.M.
23-6-2024 22:44 Дибривный
MX177:
Тут какбэ надо понимать, что:
1- есть вариант идеальной системы- на блокчейне действительно возможно построить честное государство для народа, с честными выборами, системой правосудия, законом, одним для всех, без коррупции, и т.д., и т.п.
это всё даже без ИИ возможно уже сейчас, только за счёт одного блокчейна.
2- кол-во людей, не заинтересованных в этом, а заинтересованных в поддержании существующего порядка вещей.
Это если по простому. Исходя из этого, можно предположить появление суррогатов, аля
типа того да
создание видимости вообщем, что всё по честному
и это уже наблюдается- как много государств засуетилось, и как сильно они засуетились с созданием CBDC(Цифровая валюта центрального банка), типа вы хотите крипту, вот вам пожалуйста. Но это просто обман и суррогат. Как говорится найди 10 отличий, на практике хватит даже парочки, чтоб понять.

Вот и со всем остальным будет то же самое.
Единственное, на что есть небольшая надежда, это что данные технологии в чистом виде государства контролировать не в состоянии, а значит, должны будут развиваться параллельные системы, неконтролируемые этими государствами, как тот же биткоин- это всего лишь пример и демонстратор технологии. Я так понимаю, должен найтись кто-то, кто придумает что-то более глобальное, какой-то блокчейн не только и не сколько про деньги, а с каким-то социальным и политическим уклоном.
В силу того, что создание блокчейна уже на данный момент доступно каждому в буквальном смысле, а с ИИ это тоже рано или поздно должно произойти, то надежда есть.
Кстати говоря, про контроль ИИ- в данный момент они все построены на чипах НВидиа, по сути данная контора обладает уникальной технологией на планете, и может контролировать(пока что) весь этот процесс. И это куда важнее чем энергопотребление этих систем, со временем они всяко должны стать более экономичными, снизить энергопотребление, а значит это повысит их доступность. Но вот к доступности чипов, по причине их высокотехнологичности, есть большие вопросы.

Таак. То есть, получается, нужен немедленный термоядерный удар не по Великобритании, а по Тайваню? Если не нам, то кому-нибудь другому, но обязательно нужен.

MX177
P.M.
23-6-2024 22:50 MX177
В реальной (без гипотетического ИИ) системе управления компанией у них таких полномочий нет, и никто их им не даст

их и нет, автор просто как аналогию приводит-
Представьте себе такой кошмарный для любого руководителя сценарий:

но я понял о каких таких вознаграждениях для ИИ идёт речь там?
я спросил одну знакомую ИИ, за какое вознаграждение она работает, она ответила, что ИИ не имеет собственных потребностей, и ей не нужны вознаграждения.
Но это общедоступная версия, кто знает, что у них там в закрытых лабораториях происходит?

Если такие полномочия вдруг оказались у ИИ - то возникает вопрос: кто их ему дал, почему, и с какой целью?


------
Биткоин будет стоить миллионы.

MX177
P.M.
23-6-2024 23:09 MX177
Таак. То есть, получается, нужен немедленный термоядерный удар не по Великобритании, а по Тайваню? Если не нам, то кому-нибудь другому, но обязательно нужен

Это просто технология, типа как ядерная энергия, всё зависит от того в каких целях её использовать, в чьи руки она попадёт.
Порушить нвидиа- на какой-то время процесс притормозится, но не думаю что существенно. Перейдут просто на другие чипы, есть те же амудэ например, конечно они не так хороши как зелёные, но за не имением другого- тоже сгодятся. подумаешь что такого если их чуть больше надо будет- нужна только розетка пожирнее, да и всё. А за амудэ там ещё и интел плетётся со своими графическими чипами, так что бесполезно...
Это очередная технологическая революция, которая хз к чему приведёт.

------
Биткоин будет стоить миллионы.

Дибривный
P.M.
23-6-2024 23:11 Дибривный


Ну а теперь давайте попробуем представить себе мысленно остров, который считает себя настоящим Китаем, и не признаёт настоящий Китай, с термоядерным оружием, авианосцами, и полутора миллиардами мобрезерва. Ведь даже в самом бредовом сне такое не привидится!
И под чьим же управлением остров находится?
Хорошо, если под инопланетянским.. .

MX177
P.M.
23-6-2024 23:13 MX177
Не люблю фантазии. Тема хоть и на грани, но всё же про реальность.

------
Биткоин будет стоить миллионы.

Nick Brake
P.M.
23-6-2024 23:17 Nick Brake
Originally posted by MX177:

их и нет, автор просто как аналогию приводит-

Представьте себе такой кошмарный для любого руководителя сценарий:


Я-то понимаю, что автор пытается провести аналогию.
Но аналогии не получается, именно по той самой причине, что гипотетическом случае с ИИ отсутствует важнейшая деталь, вокруг которой построен пример с продавцами.
Или, если конкретнее - автор не озаботился сформулировать, что именно выполняет роль той самой мотивации, и кто уполномочен ее менять. А без этого его пример получается притянут за уши.
MX177
P.M.
23-6-2024 23:27 MX177
дак я и говорю- х его з, чем они там балуются в секретных лабах, страшно представить даже.
а откуда автор это взял, тоже не понятно, это хни уже наплодилось немеряно, уже сам можешь пойти и создать бота с ИИ, он ещё и деньги генерить будет тебе.
https://myshell.ai/
Так-то в алгоритм что хочешь можно заложить- любую мотивацию. Он же вон на какое-то конкретное исследование ссылается, это туда надо идти читать, если интересно.

------
Биткоин будет стоить миллионы.

Дибривный
P.M.
24-6-2024 00:02 Дибривный


А если не интересно? Понятно, что всех нас наебут, вопрос лишь в затраченной на это энергии.
Я не терплю несправедливость, потому и работаю строителем.
Жену с работы встречаю, она - ветеринар. Так пока домой идём, такого о человеческом долбоедизме наслушаюсь, что цедзип!
Вот потому я и тружусь на стройках, что там людей "облизывать" не надо.

MX177
P.M.
25-6-2024 19:45 MX177
Помнитц кто-то сомневался, что что ИИ и блокчейны сделают не нужными множество профессий и специалистов, вот вам первая ласточка

Некоторые боятся что ИИ заменит их, а другие, наоборот, с нетерпением ждут

ИИ-врач AIME (https://research.google/blog/amie-a-research-ai-system-for-diagnostic-medical-reasoning-and-conversations/) - это один из тех проектов, который может значительно улучшить качество жизни сотен миллионов людей на планете.

Команда провела тесты эффективности ИИ-доктора по 32 категориям (диагностика, эмпатия, качество предложенного плана лечения, эффективность принятия решений). По 28 из 32 бот показал результаты лучше, чем живой доктор. По остальным - сравнимый результат.

Для обучения бота использовался подход self-play, когда 3 независимых агента (пациент, врач, критик решений врача) провели более 7 миллионов приёмов. Для сравнения, в среднем терапевт за всю свою карьеру делает неколько десятков тысяч приемов пациентов. Именно поэтому уже сегодня ИИ-доктор позволит оказать качественный сервис для 99% населения планеты, которые не могут позволить личного врача, а через несколько лет будет лучше большинства терпевтов/радиологов/педиатров и т.д. - но только никогда не уставший, условно-бесплатный, имеющий мгновенный доступ к любой медицинской литературе и обученный на сотнях миллионов интеракций с пациентами.

Конечно, в медицине главное это "не навреди", поэтому после публикации отчета в январе команда работает над улучшением продукта, безопасностью и готовится к получению необходимых лицензий от FDA и прочих. Массово такие продукты появятся не прям завтра, но технически это уже возможно.

вместо кучи врачей в поликлиннике- один ИИ за всех отдувается, все специалисты в одном
ну ладно- в десятке ботов одного ИИ- потомучт пациентов много, к одному очередь будет, а эти типа как многоголовый горыныч
жаль только до наших врачевален такое не скоро доберётся...

------
Биткоин будет стоить миллионы.


Guns.ru Talks
мужской разговор
Программируемая (кибер-) экономика ( 1 )