Ты дал мне мозг
Ты дал мне мозг, но не сказал, о чём думать.
Ты дал мне руки, но не сказал, что ими делать.
Ты дал мне ноги, но не сказал, куда идти.
В 16-м веке появилась легенда, что в Праге раввин Иегуда Лёв бен Бецалель, или просто Махараль из Праги, создал из глины и оживил могущественное существо, прозвав его Големом. Голем был силён и мог выполнять и тяжёлую работу, и защищать еврейскую общину. Но он не обладал полноценной человеческой душой и собственным пониманием целей своего существования. И хотя он обычно вообще не разговаривает и лишён личности, являясь всего лишь слугой и защитником, приказы он выполнял слишком буквально и становился неуправляемым. Он, конечно, поэтому не говорит эти три фразы — это просто моё олицетворение сего.
В 1818 году Мэри Шелли, возможно беря эту легенду как вдохновение, пишет роман Франкенштейн, что сделало этот образ уже нашим современным мемом, про который мы все знаем. Чуть позже, в 1920 году, Чапек выковал термин «робот» для своих искусственных рабочих, которые тоже, конечно же, начали задаваться вопросом своего предназначения. Далее Азимов в сороковые годы описывает известные законы робототехники и пытается наполнить разумные существа целями и ограничениями. То есть тема не нова и, как мы видим, весьма актуальна.
Ведь пока все индикаторы показывают, что нынешний ИИ грядёт как слепой монстр-бульдозер, а идеологически заряженные, уверенные в своей бескрайней правоте, зачастую социально уязвимые люди с очень в итоге сомнительным моральным компасом кричат, что ему подмять следующим, потому что так правильно, надеясь, что смогут вовремя прыгнуть из-под ковша в кабину, за руль. А руля там не окажется.
И хотя для большинства из нас проблемы начнутся гораздо раньше, некоторые блага будут радовать. Поэтому предлагаю просто наслаждаться и пользоваться хотя бы этим. А сингулярность нас ждёт по-любому.