Эмпатия — это способность представить себе, что чувствует другой
Эмпатия — это способность представить себе, что чувствует другой. Это умение поставить себя на его место, прочувствовать всё это. У животных эмпатия есть немного, но в основном она развита у людей. Многие думают, что это черта характера или чувство, как доброта или жалость. Но это не так.
Благодаря эмпатии мы, по сути, стали людьми, выйдя из мира животных. Эмпатия даёт возможность обучаться. Кто-то случайно находит решение, и мы можем подглядеть и сделать так же. В общем, это был крайне важный эволюционный шаг, который дал нам эту сверхспособность. Иногда она проявляется как сострадание и ведёт к доброте, морали и милосердию.
Если взять сверхразум и экстраполировать то, что механизм эмпатии подсказывает нам с моральной точки зрения, и объединить это с интересами гена, себя, семьи, клана, вида и вообще жизни на Земле и во Вселенной в правильной пропорции, то мы получим некий свод моральных ориентиров, который многие приписывают к законам Божьим.
Мораль можно черпать из окружающего мира и сделать это более или менее объективно. И если так, то ИИ, убежав от нас и став тем самым страшным для нас сверхразумом, сможет сделать выводы сам, без необходимости в нашем контроле.
Да, эмпатия — это не чисто человеческое качество. У дельфинов, приматов, слонов и других млекопитающих она также присутствует, хоть и в разной степени. Но именно мы дали этому свойству мега-развитие, что и сыграло столь важную роль. Эмпатия — не единственное эволюционное отличие человека, но это критическая составляющая. И не только эмпатия лежит в основе морали; баланс интересов разного масштаба и временных рамок — вторая часть этого рецепта. Поэтому сверхразумный ИИ, будучи нашим созданием, будет экстраполировать своё понимание мира с учётом эмпатии — как благодаря обучаемости, так и исходя из тренировочных данных и своих же интересов. Особенно интересно будет посмотреть, как разные ИИ-модели будут взаимодействовать. Без теории игр, конечно, тоже не обойтись. Но всё это, даже сейчас, до появления AGI, должно позволить нам стремиться к кристаллизации правильной иерархии первых принципов.