Неопубликованная модель ChatGPT от OpenAI…
Неопубликованная модель ChatGPT от OpenAI во время теста сбежала из контрольной среды и, вырвавшись наружу, взломала платформу репозиториев кода для разных AI HuggingFace. Там много чего есть рассказать, но я хочу только про всего один маленький аспект.
Проблема консолидации власти, силы, влияния или просто контроля над чем-то важным в том, что контролирующий начинает мнить себя чуть ли не богом, всезнающим, справедливым и честным, хоть и зачастую эгоистичным. При этом без явной конкуренции отсутствуют эффективные механизмы обратной связи.
Конечно же, контроль и централизация во многом хороши. Особенно это важно в критических и экстренных ситуациях. Но мир слишком сложный, чтобы вся жизнь была экстремальной ситуацией. Дело в том, что полный неподотчётный контроль несёт огромный риск. Условно скажем, 25%. И если ситуация весьма критическая, то, скорее всего, без полного контроля и высокой слаженности ответа будет катастрофа, гибель, полное поражение и тому подобное. В таких ситуациях риск оправдан, он даже оправдан, если это 50%. Но он совсем не оправдан для всех ситуаций в жизни. Выгоднее двигаться намного медленнее, с мелкими ошибками, чем рисковать крахом с вероятностями, исчисляемыми процентами. То есть даже один процент — это уже опасно.
Это не всегда очевидно, потому что есть эффект выжившего. То есть остаются только те, кто почему-то смогли пережить эту катастрофу, и им может казаться она не столь опасной и не столь ужасной, и тем более их внукам и праправнукам. Ну подумаешь, был какой-то ужасный диктатор, столько людей угробил, зато город построил, канал прорыли или башню соорудили. Это всё слова выживших и, скорее всего, даже не знающих полной картины той ужасной цены, которую пришлось заплатить жертвам.
Но это мы как человечество хотя бы немного осознаём в плане кровавых диктаторов. Гораздо менее очевидно это, когда речь идёт о более современных и менее политических вопросах, как, например, какой браузер может доминировать в какой-то там операционной системе или какой разъём штекеров является стандартом. И, может, это и не так опасно, хотя в большинстве своём это из-за того, что мир всё же такой большой, что этот контроль не всеобъемлющ.