Опять всплыло огромное количество рассуждений…
Опять всплыло огромное количество рассуждений про опасность ИИ и что он сам взбунтуется и всех нас убьёт.
Хочу зафиксировать пару своих пониманий на эту тему. Ну чтоб как минимум я потом мог вернуться и посмеяться, как я в этом всём заблуждался.
-
Опасность от ИИ, конечно, есть. Но мне видится, что тут все чуть ли не повально не понимают одно простое взаимоотношение. Опасность исходит от того, что ИИ — это мегамощный инструмент, что он, возможно, скоро станет ещё мощнее, что противостоять ему мы как человечество, может, и не сможем. Но суть тут в том, кто всё же на тот момент главный. Создатели ИИ (или их начальники) или же сам самоосознавший себя ИИ. Я считаю, что на момент, когда ИИ будет вот такого реально опасного уровня, самоосознания и с ним стремления со стороны почувствовать человечество как врага ещё не будет. Этот опасный уровень настанет раньше, а значит, всё ещё будет некая кучка вполне себе людей, которые всё ещё будут им управлять. Но невиданная доселе сила, которую они получат, и будет главной опасностью. Угроза от них, условной обезьяны с гранатой, а не от гранаты.
-
Наличие угрозы даже в случае её правильного определения не означает, что предлагаемые решения улучшат ситуацию, не говоря уж про разрулят. Мне тут визуально представляется такая метафора. Вот есть племя папуасов, и они прознали, что к ним, на их маленький остров, плывёт современный военно-десантный корабль. По слухам они знают, что это опасно. И вот у них совет, что делать. Одни считают, что надо просто молиться, другие — что надо обязательно в жертву 7 девственниц принести, другие — что это ведьма виновата и её надо сжечь, третьи — что надо правильную статую построить, кто-то предлагает из жёлтых ракушек магический круг вокруг деревни выложить. В общем, понятно, как это поможет. Современный человек бы, может, и подсказал им, что да как, что, может, и можно всем им не погибнуть в смертельной битве и решить проблему мирно, хоть и придётся поменять их жизнь, что-то будет хуже, но многое, может, и лучше. Но по-любому их вот предлагаемые решения точно смехотворны.