Иерархия первых принципов и задача согласования ИИ (AI Alignment) полностью взаимосвязаны. И покуда с первой задачей мы, как человечество, справляемся довольно плохо, это как раз и звоночек, что плохо получится так настроить создаваемые модели искусственного интеллекта.
Тут речь о том, что надо чётко понимать и иметь план и стратегию, что делать в сложных ситуациях. Какие принципы главенствуют над какими. Легко принимать решения в простых ситуациях без опасных последствий. Например, вы пришли с детьми в магазин мороженого, чтобы купить мороженое им, и с деньгами не проблема. Или подарки. Не беда, если случайно купите яблочное вместо бананового. Сложно, когда выбор очень тяжёлый. Я это описываю для себя "когда можно убивать младенцев". Понятное дело, что вообще не хочется оказаться перед таким выбором. Но жизнь, понимаете ли, сложная штука, и часто бывает, что выбор не богат. Но крайне важно уметь его сделать. И очень важно подумать обо всём этом заранее, на берегу это влияет на правильность, покуда выше шанс, что разум на берегу может победить эмоциональное состояние момента.
В жизни есть очень хороший пример, когда этому аспекту пытаются приучить людей огульно. В самолётах перед каждым взлётом втирают, что в случае разгерметизации, когда выпадают дыхательные маски, сначала надо надеть маску на себя и только потом на ребёнка. Потому что для повышения вероятности выживания обоих именно это правильно, хоть для многих и неинтуитивно. Очень простой принцип. И он показывает эту саму иерархию. Вот подобные понимания должны быть обо всём на свете. Все потенциальные ситуации в жизни заранее не обдумать, поэтому есть именно принципы. И если начинаешь выстраивать их в иерархию, в конце концов доходишь до самых самых главных, вот это и есть первые принципы.
Так вот, у ИИ тоже есть иерархия. Она естественным образом будет отличаться от нашей, но когда иерархия понятна, понятны и цели, и вот согласование ИИ и есть правильное обучение этого искусственного разума тем же первым принципам, чтобы на самом верху они совпали с нашими. Тогда и всё остальное не будет радикально противоречить, даже когда у нас разный контекст.
Но выстроить свои первые принципы крайне сложно, потому что они конфликтуют. Коллективизм или индивидуализм, утилитаризм или деонтология, сейчас, сегодня, при нашей жизни или вечно. Это всё непростые дилеммы, и всем этим как раз и занимается философия. И хотя для многих философствование кажется бесполезной ерундой, движение цивилизации и даже всей жизни вперёд без неё как минимум неэффективно. Это наш компас, и наша задача как человечества и каждого в отдельности разобраться во всём этом.
Также задачи эти нескончаемые, а делать что-то надо сейчас. Поэтому важна проработка этих принципов там, где это получается. Собственно, это поможет и с решением каждодневных задач в политике, экономике и устройстве общества.
