В нацистской тюрьме в 1943 году немецкий теолог Дитрих Бонхёффер сформулировал уникальное понимание глупости. Он считал, что глупость это самое опасное явление в социуме, опаснее, чем открытое зло.

Но его понятие человеческой глупости довольно специфическое. Для него в ту самую глупость, про которую он писал, не входили отдельные бестолковые поступки, слабые умственные способности и даже невежество (ну кроме умышленного, но это и важно). Спрашивается, что же остаётся «глупым» после этих трёх его отвергнутых больших категорий?

То, что он называл глупостью, я бы, во-первых, назвал по-другому — можно «оглупение», но сейчас попробуем придумать, как лучше.

Для него глупость связана не с интеллектуальными способностями, а с отказом их использовать, причём за счёт либо не слишком продуманного следования догме или превалирующей идеологии, либо же путём простого подчинения авторитету и, как правило, основной массе оглупевшего общества. То есть в большой степени это снятие с себя ответственности за многие важные вопросы в своей жизни, в жизни семьи, города и всего общества. Получается, в этом даже больше моральная слабость, чем умственная.

Даже очень интеллектуально развитые, хорошо образованные люди, у которых может быть и доброе сердце, и даже высокое сострадание, порой готовы отгородить себя от непредвзятого анализа происходящего или даже от простого знания того, что происходит.

Неудивительно: в то время, когда он жил, такое происходило налево и направо чуть ли не во всех странах. Видимо, это происходит и сейчас, но нам труднее видеть про наше время, чем про прошлое, когда известно, что к чему привело. Его расстреляли в концлагере за несколько недель до освобождения. И мы знаем про его идеи из писем.

это часть 1 (из 2)

Как вот получилось, что люди в античном мире понимали какие-то вещи лучше нас?
Это нам лишний информационный хлам мешает?

Привидилась мне такая метафора:
у страны или у некого этноса есть идея, или даже, можно сказать, идеология, вокруг этого будет существовать культура и искусство. Они будут подобны сиянию, отражаемому от поверхности.

Идея и культура, конечно же, растут из корней, то есть истории данного им этноса/народа, и это и будет основа формы той самой поверхности. Идеология же это цвет и текстура, а культура и искусство — это то, как попадающий свет отражается, как он переливается, попадая на ту самую сложную поверхность.

Eсли верить в детерминизм и мультивселенные, то всё получается это случайности и совпадения, а любой успех это чисто везение. очень сложно это принять. но как-то все остальные аргументы разбиваются о логику.

У меня ещё очень давно сформировалось понимание, что для успеха компании, продукта, бизнеса, сервиса и чего-то ещё нужно, чтобы была идея, ресурсы и команда. А в команде нужны минимум три представителя трёх разных направлений. Если их меньше, то это значит, что кто-то делает две роли, или это вообще кто-то один всё делает за всех. Это возможно в малых масштабах, но не работает при успехе и росте, там нужно три.

Это представители потребителя, представители производителя и те, кто сделают это всё прибыльным, или в некоторых случаях вместо прибыли могут быть другие цели, но так или иначе это те, что обеспечат баланс, чтобы и волки сыты, и овцы целы, и пастух тоже жив. Но если без шуток, это те, кто уследит, чтобы первые двое не перетянули слишком на себя, и чтобы вся идея имела смысл. Условно скажем дизайнер, инженер и продавец, хотя это, конечно, чрезмерное упрощение. Но прибыль это совсем уж как-то узко. Мне нравится цитата Уолта Диснея, перефразировано она про то, что они не делают фильмы, чтобы заработать деньги, а они зарабатывают на фильмах, чтобы была возможность продолжать делать фильмы. Как-то так.

Но сейчас я тут осознаю, что это шире. Это вообще три направления мышления о том, как решаются проблемы. Это то, как люди вообще подходят ко всему в жизни. И их тут больше чем три, потому что не все вообще мыслят решениями и подходами. Например, часть людей вообще не хотят решать это, они хотят выполнять то, что им сказали. Есть другие, которые всё видят как азартную игру, где надо угадать что-где плохо лежит. Да и вообще разных поведенческих направлений много, все я не возьмусь обсуждать.

Мы, конечно, будучи сложными и многогранными личностями, включаем в себя все эти типы сразу. Но когда мы сталкиваемся с задачей, которую надо решить, зачастую творчески, в нас просыпается и начинает превалировать один из этих подходов. Я это для себя объяснял как всё вокруг это дизайнерская задача и одновременно инженерная задача, и всё должно иметь смысл и работать долгосрочно, или на больших масштабах. Например, будет ли хорошо, если все так будут делать. И конечно же обязательно нужен тот, кто всё это выполнит, ведь иногда больше всего нужно упорство и усердие.

Поговорили про то, что такое сознание. Вообще-то мы начали с того что просто обсуждали подкаст Сэма Харриса, про это как раз, а потом решили что надо из этого сделать выпуск. И затронули почему творчество ИИ зачастую нам не интересно, будет ли запрос на общение с превращёнными и ии-чат покинувшими нас родными итп.

https://techlifepodcast.com/episodes/205

Techlifepodcast — Технологии и жизнь: подкаст • №205 Иллюзия сознания
Можно ли заменить человека его цифровой копией и где проходит граница между живым сознанием и искусственным интеллектом?

рабочий стол дома

Такая сякая сбежала из дворца, такая сякая расстроила отца

Так вот, что произошло: OpenAI тестирует новую модель, скажем ChatGPT 6, но может и другую, неважно. Что они просили её сделать, мы не знаем. Но для теста они посадили модель в песочницу, то есть в среду без выхода в интернет. И тестировали вроде как на кибербезопасность. Но в современном мире проверять на кибербезопасность без доступа к разного рода распространенным пакетам, сделанным множеством разных других компаний, невозможно. В наши дни никто, НИКТО не пишет продукты с нуля. Все используют разные готовые куски, сделанные другими. И там, конечно же, всегда есть риск, что кто-то может подсунуть вредоносный код через них. Но серьёзные компании понимают риск и для его снижения используют следующее: первое — они не пользуются пакетами, скачанными напрямую из интернета; второе — они не используют самое новое, они ждут и смотрят, не обнаружились ли проблемы у других; третье — они тестируют это сами; и четвёртое — чтобы случайно не нарушить этот процесс, они используют так называемый пиннинг, то есть продукт привязан к определённой версии пакета (проверенной) и обновляется только с разрешения. Но это серьёзные компании так делают. А мы знаем из не столь давних событий, когда уже хакали OpenAI, что они так строго или осторожно не поступают. То есть там отношение к безопасности не на высоте. Что само по себе кошмар.

Но в данном случае у них есть свой собственный внутренний репозиторий для разных сторонних пакетов. И у тестируемой модели был доступ только к их внутреннему репозиторию. Но модель умна, нашла баг в репозитории, хакнула его, тем самым выбралась из песочницы сперва во внутреннюю сеть OpenAI и далее в мировой интернет. Далее, как можно предположить, модель решила, что для выполнения теста можно получить ответ, порывшись в HuggingFace (это такой аналог GitHub'а для AI). Взломала этот несчастный ХаггингФейс. Так вот получился скандал.

Мы не знаем, было ли это плохое указание, что делать, неправильная задача, неправильные ограничения, неправильное вознаграждение или что-то ещё. Но что я хочу сказать — мы не знаем, что делали эти инженеры из OpenAI, но явно что-то неправильно. Либо по незнанию, халатности, либо в силу умственных ограничений вида человеческого по сравнению с искусственным разумом. Но если у них, вот у этих компаний, будет полный контроль — это ещё опасней, чем безумный диктатор с чемоданом. Может, пока ещё не так же опасно сегодня, но мы на верном пути к тому, что точно будет опаснее. Прогресс не остановить.

Но мы как человечество должны выработать хотя бы какие-то механизмы защиты. С ядерным оружием в чём-то даже хорошо, что оно не только у одной страны, и также хорошо, что не у всех. Хорошо, что запуск ракет — процесс, требующий много людей. С ИИ, возможно, будет иначе. И мирный атом тут не аргумент.

Неопубликованная модель ChatGPT от OpenAI во время теста сбежала из контрольной среды и, вырвавшись наружу, взломала платформу репозиториев кода для разных AI HuggingFace. Там много чего есть рассказать, но я хочу только про всего один маленький аспект.

Проблема консолидации власти, силы, влияния или просто контроля над чем-то важным в том, что контролирующий начинает мнить себя чуть ли не богом, всезнающим, справедливым и честным, хоть и зачастую эгоистичным. При этом без явной конкуренции отсутствуют эффективные механизмы обратной связи.

Конечно же, контроль и централизация во многом хороши. Особенно это важно в критических и экстренных ситуациях. Но мир слишком сложный, чтобы вся жизнь была экстремальной ситуацией. Дело в том, что полный неподотчётный контроль несёт огромный риск. Условно скажем, 25%. И если ситуация весьма критическая, то, скорее всего, без полного контроля и высокой слаженности ответа будет катастрофа, гибель, полное поражение и тому подобное. В таких ситуациях риск оправдан, он даже оправдан, если это 50%. Но он совсем не оправдан для всех ситуаций в жизни. Выгоднее двигаться намного медленнее, с мелкими ошибками, чем рисковать крахом с вероятностями, исчисляемыми процентами. То есть даже один процент — это уже опасно.

Это не всегда очевидно, потому что есть эффект выжившего. То есть остаются только те, кто почему-то смогли пережить эту катастрофу, и им может казаться она не столь опасной и не столь ужасной, и тем более их внукам и праправнукам. Ну подумаешь, был какой-то ужасный диктатор, столько людей угробил, зато город построил, канал прорыли или башню соорудили. Это всё слова выживших и, скорее всего, даже не знающих полной картины той ужасной цены, которую пришлось заплатить жертвам.

Но это мы как человечество хотя бы немного осознаём в плане кровавых диктаторов. Гораздо менее очевидно это, когда речь идёт о более современных и менее политических вопросах, как, например, какой браузер может доминировать в какой-то там операционной системе или какой разъём штекеров является стандартом. И, может, это и не так опасно, хотя в большинстве своём это из-за того, что мир всё же такой большой, что этот контроль не всеобъемлющ.

Внутри наших клеток некоторые процессы происходят сотни тысяч раз в секунду, а какие-то процессы, которые мы наблюдаем из окна, идут миллиарды лет. В нас находятся десятки триллионов разных клеток, в каждой из них триллионы молекул, во многих из которых миллионы атомов. Они очень, очень маленькие. Атомы состоят из протонов, нейтронов и электронов, которые меньше атома примерно в десять, а то и сто тысяч раз. Но протоны состоят из кварков (и глюонного поля), которые меньше их ещё в десять тысяч раз. То есть они оооооочень маленькие.

Настолько, что размер кварка по отношению к нам мы вообразить не можем. Но при этом наша Галактика настолько огромна, что если бы мы уменьшились до размеров этого бесконечно малого кварка, то вся сжавшаяся вместе с нами Галактика всё ещё была бы больше нас, размером с неплохой дом, метров 50-60.

А ещё есть погода, во всех этих масштабах галактических это какая-то мелкая флуктуаций влажности на тонкой поверхности. а какие порой вызывает у нас эмоции.

Мы видим мир, всё, что в нём происходит, совсем не соизмеримо с тем, как там всё распределено. Всё измеряется через призму себя.

Кто-то вообще видит только на расстоянии вытянутой руки, кто-то мыслит галактическими кластерами. И хотя мы часто можем легко держать в голове конфликтующие идеи, мыслить одновременно локально и глобально получается плохо.

Как говорится, где я, а где эти Испания, Аргентина...

Слово дня — Condign, произносится кэндАйн, для моего немузыкального уха даже ближе к киндАйн, и это прилагательное, означает «заслуженное» в смысле поделом, по заслугам. Обычно когда кого-то наказали, покарали, отомстили. Но вообще оно редкое слово, можно сказать буквоедское, и архаичное. Но мне оно нравится, когда используется в очень формальном контексте, когда говорится как предупреждение об угрозе неминуемым наказанием и в соответствии с проступком строгим.

Есть несколько вещей, которые мне доставляют неиссякаемое наслаждение и вдохновляют делать что-то своё. Не обязательно такое же или похожее, а в целом что-то в них задевает мои тонкие душевные струнки.

В кино это фильмы Вонга Карвая, в музыке это Tipper, в изобразительном искусстве картины Питера Милтона, а в художественной литературе книги Харуки Мураками. Вроде бы всё очень разное, но для меня они все очень похожи и даже как бы связаны между собой одним мотивом.

Я всё чаще думаю про экономическую самодостаточность в масштабах стран или конгломераций.

Долгое время мир упрямо двигался к всё более и более всепроникающей глобализации, но потом побочки, которые она приносила, создали, во-первых, запрос у больших слоёв населения на какое-то этому противодействие. Это, в свою очередь, подлило масла в огонь популизма (не только оно, конечно же, но явно фактор). Но ещё это привело к чрезмерной концентрации узловых производств, технологий или даже ресурсов у слишком узкого числа игроков, что сделало остальных уязвимыми.

Стоит разобрать, что значит уязвимость в данном контексте. Каждый человек не может делать всё сам, нужна специализация. И чем шире и глубже эта специализация, тем, с одной стороны, будет больше разница в качестве и количестве производимого между специалистом и остальными, и одновременно всё больше и больше зависимость от него. А когда есть зависимость, то при любом ЧП будет как минимум сбой. И это верно и на уровне деревни в древнем мире, и точно так же верно на уровне современной мировой экономики. Чрезмерная концентрация, как правило, называется монополией, но это не всегда так. «Монополия», как выяснилось, слишком уж узкий термин. Потому что есть ещё олигополия, сговоры, гильдии и, как новый технологически-экономический феномен, агрегаторы.
Современные технологии столь сложны, что часто для разработки и развития некой важной и сложной продукции или производства требуются годы и лучшие специалисты со всего мира. И даже этого еле-еле хватает. Просто-напросто мир хоть и огромный, но мы столько всего сложного хотим, что людей не хватает. Реально просто нет специалистов. К тому же ещё и рождаемость падает, что больше всего бьёт именно по этой части населения. Это ещё обостряется тем, что всё больше и больше людей заняты непродуктивной работой. Как результат — появляется технологический лидер, или даже два-три. Другим их догнать нереально. Не потому, что сей лидер такой злобный монополист, у конкурентов просто нет грамотных специалистов. Воспитать новых занимает годы, а лидер не будет стоять на месте и при любом хоть сколько-то свободном рынке будет высасывать всех вновь обученных даже полуэкспертов, просто потому, что он может и лучше их дообучить, и эффективнее применить.

Это одна сторона вопроса, назовём её сложностью цепочки. Вторая это хрупкость. Если происходит авария, война, природный катаклизм или ещё что-то, и у лидера что-то там нарушается, это подвешивает весь мир. Сложность этих цепочек означает, что их трудно воссоздать, починить или передать другим, даже если все этого хотят и на это есть все необходимые средства.

А ещё есть не очень «добрые» игроки. Можно сколько угодно спорить о политике, но мы точно имеем ситуацию, когда одни страны теперь в позиции шантажировать другие. У разных авторитарных режимов это получается в целом немного лучше, потому что любой шантаж одновременно плох и для своих, но в авторитарных странах выгодой и благополучием своих граждан и бизнесов пожертвовать в разы легче. К сожалению, современный мир плохо усвоил, что значит парадокс толерантности.

Так что в итоге:
Можно попытаться делать побольше самим. Это само по себе уже очень сложно, долго и дорого. Во-первых, кто тут «свои»? Разделить мир на Коллективный Запад и Глобальный Юг и это, вообще-то, кажется минимумом, но даже тут очень сложно добиться заметных продвижений. Но даже если это полностью получится, внутри каждого из этих лагерей нет единства. Изоляционисты готовы кинуть некогда партнёрские страны, и не без основания, покуда многие из них не ведут себя по-партнёрски или не действуют разумно и ответственно. И надо помнить, что попытки распределить специализацию, как правило, ведут к замедлению, хотя не всегда. Иногда наоборот создают конкуренцию, которая как раз очень стимулирует.

И вот я подошёл (плавненько) к мысли об одном важном аспекте. По-прежнему считаю, что всё самим делать нельзя. Неэффективно, невыгодно и на данном этапе даже нереально. Но важно делать ключевое. Простая вроде мысль, но всё же. А то, что не делаешь, надо копить про запас. Это легче сказать, чем сделать. Во времена холодной войны «второй мир» (первый это Запад, третий это всякие развивающиеся страны, а второй это был СССР и его союзники) пытался быть самодостаточным. Это тяжко. Там это тяжело было в первую очередь из-за неэффективной экономической модели, но не только. Во времена Второй мировой Германия с союзниками тоже были самодостаточными, и мы знаем, как им из-за этого было сложно. Но главное — это всё было очень давно. Технологии развились столь сильно, что самодостаточность того времени нынче просто нереальна.

Поэтому помимо попыток её создать необходимо выстроить правильный диалог, который обязательно показывает другой стороне, к чему ведёт деглобализация. У Коллективного Запада это очень плохо получается. Но сделать это важнее, чем даже добиться полной самодостаточности. Годы сладкой жизни привели к полному развалу политической ответственности в подавляющем большинстве развитых стран, равно как и личной ответственности и осознанности простых граждан. Будет тяжело.

Книги были одной из важнейших технологий в течение долгого времени. Это такая форма концентрированной информации, конкретная и оформленная, что делает её более точной, чем просто пересказ, более удобной для потребления, поскольку её можно почитать самому, в уединении. Она может сохраниться, даже если все участники её создания погибли, и прочее, всего не перечислить. Технология книги лежит в основе главных монотеистических религий, как краеугольный камень, так что в некотором смысле наличие той самой книги как бы использует её как параметр — вот есть книга, дана создателем мира, там его указ нам, простым смертным, как надо жить. Ни камень, ни скала, ни шар хрустальный с некими начертаниями, а именно книга. И хотя мы знаем, что дано это было в другой форме, последние сотни лет это должно сохраняться именно в этом формате, потому что формат удобный и чуть ли не единственный.

Но вот сейчас на дворе уже век высоких технологий, и появились новые форматы передачи знаний. Например, кино или аудиозапись, комиксы, веб-сайты, в конце концов. Но книги остаются книгами и до сих пор являются главным форматом для концентрированной информации. Конечно, мы используем много чего ещё из всего перечисленного выше, но все новые форматы не стали каноническими или стандартными, хотя явно имеют много преимуществ в плане удобства использования.

Фильмы и подкасты, например, не очень удобные, потому что требуют более сложных средств для хранения и воспроизведения, сложнее в быстром поиске, цитировании и «пролистывании». Не потому что это невозможно с ними делать, а потому что нет единого стандарта, как это делать. В этом плане веб-сайт удобнее. У веб-сайтов есть нелинейная навигация (то есть гиперссылки), по ним есть поиск, есть структура и форматирование. Но веб-сайт не портативный. Его трудно взять себе, сложить в библиотеку. Есть нечто схожее, как, например, PDF-документ, и даже есть специальный архивный вариант этого формата как раз для расширения поддержки в будущем, но он всё равно уступает хорошему веб-сайту.

Для концентрированных знаний подошёл бы формат Wiki, если бы он стал полностью портативным и не требовал специальных программ и знаний для использования. Тогда знания можно было бы предлагать в виде таких архивов, что делало бы их круче и удобнее, чем просто электронные книги. А также можно было бы заморочиться и произвести их в виде физических устройств. Что, конечно же, лучше всего описано в книге «Автостопом по галактике» (в оригинальном названии дословный перевод бы был путеводитель для автостопщиков по галактике), где там сам этот путеводитель и являлся таким устройством. Вот таких нужно больше. Каждому школьнику могли бы давать такой некий планшет с кучей знаний, подзарядкой от света и не требующий ничего для использования. При правильном подходе они могут служить веками и составить достойную конкуренцию книгам благодаря большей ёмкости, нелинейности содержания, гиперссылкам, поиску и компактности. В целом технология уже есть, но недостаточно распространена, а зря.

Телеграм использовал t.me как удобный способ давать короткие ссылки.
Но сейчас это перестало работать.

Домен .me из Черногории (Montenegro) отключили их, вроде как официально потому что один украинский VPN использовал этот домен как контакты, и дальше бюрократы просто решили не париться с тонкостями технологий и когда US Treasury (OFAC) sanctions потребовали наложить санкции, по своим там причинам, закрыли весь домен.

поэтому

❌ t.me/dvestispoley (не работает)
telegram.me/dvestispoley (работает)

пойду исправлять ссылки на всех сайтайх

update: проблему устранили. но всё же домены это уязвимое звено.

В 204м выпуске, мы говорили о божественном аспекте. Типа, если ИИ будет делать всё больше и больше решений за каждого из нас лично, и за общество в целом, это может породить у части людей отношение к нему как к некому божеству. И нас понесло и дальше и на другие, вытекающие из этого темы тоже. Про технологии, про доверие и опасение манипуляций и т. д.

https://techlifepodcast.com/episodes/204

Techlifepodcast — Технологии и жизнь: подкаст • №204 Цифровой завет
Может ли искусственный интеллект стать новой формой веры, морального авторитета и инструмента управления обществом.

Богатые прекрасно знают, что с обслугой не надо заводить дружбу. Да, стоит быть вежливым, учтивым, не обижать, вовремя платить, но дружить не надо. Панибратство не для этих случаев, это нарушает субординацию и никогда не становится настоящей дружбой, покуда это не равные отношения. Поэтому можно советоваться, но это как спрашивать специалиста, а не близкого человека. У них это работа, и вы их клиент. Они всё равно будут это помнить, даже когда вы, увлёкшись вашим заблуждением о характере отношений, забудете про это. Они вполне при этом могут подыграть этому, если сочтут, что это полезно в работе.

И это всё полностью применимо сейчас для всех нас, когда мы общаемся с языковыми моделями. Не надо с ними дружить, это тоже нарушит субординацию.