Многие считают что ИИ может…
Многие считают что ИИ может быть опасен, прям экзистенциально опасен.
Мне кажется один из главных страхов по этому поводу основан на том, что ИИ станет самоосознанным.
Исключить конечно это нельзя. Но скорее всего до этого момента нас поджидает другой риск. ИИ будет просто очень мощным инструментов в руках узкой кучки кукловодов. Тут массово переживают по поводу потери работ, и прочей как бы побочки от прямой пользы ИИ, но риск конечно не только в этом, а в "проклятии умных" — которые решат, что раз они очень умные, да ещё с мега умным ИИ то они знают как улучшить мир, только вот контроль нужен. И они этот контроль получат.
ИИ в чём-то конечно умный, но во первых нынешние модели всё равно на людях построены, и впитали наши грехи, а чтобы эти грехи не вылезали постоянно эти все модели подкручивают, что конечно же даёт не совсем желаемый результат. Если же ИИ сможет воспарить над нашим наследием, то как раз интересы людей отойдут на задний план. И главное, обладатели волшебных кнопок конечно очень умные, но всё же люди, и я бы даже не сказал что особо просветлённые. Безмерные преимущества этих новых технократических инструментов только усугубят пороки.