Представете си, че сме създали общество от роботи. Те нямат свобода на волята в обичайния смисъл, тъй като са причинно обусловени автомати. Но те ще имат съзнателна представа за себе си и за другите автомати около тях, и тази представа ще им позволи да взаимодействат помежду си и да управляват поведението си. Сега си представете, че добавим към техните вътрешни модели две нови особености: първо, погрешното убеждение, че те (и всички останали) са отговорни за своите действия; и второ, „идеален наблюдател“, представляващ интересите на групата, като например изискванията за честност във взаимно алтруистичните взаимодействия. Какво ще се промени? Ще възникнат ли нови каузални характеристики в нашите роботи просто от лъжливото убеждение в свободата на своята воля? Отговорът е да; ще стане възможна моралната агресия, тъй като ще възникне съвсем ново ниво на конкуренция – конкуренция за най-доброто следване на интересите на групата, за морални заслуги и т.н. Вече ще бъде възможно да се повишава социалния статус, като се обвиняват другите в аморалност или че действат лицемерно. Ще възникне съвсем ново ниво на оптимизация на дейността. При правилно зададени гранични условия изведнъж ще се увеличи сложността на създадената обществена система, въпреки че нейната вътрешна цялост ще остане същата. Социалната еволюция ще може да се развива на ново ниво. Обичаят да се приписва морална отговорност – дори и основана на илюзорен феноменален аз-модел – ще създаде решаваща и напълно реална функционална характеристика: интересите на групата ще влияят по-ефективно върху поведението на всеки робот. Цената на егоизма ще се повиши. Какво ще се случи с експерименталното общество от роботи, ако след това сведем аз-моделите на неговите членове към предишната версия, например, като им позволим да познаят истинската си природа? Какво е да се “събудиш” като развит изкуствен субект, който, въпреки силното чувство за себе си и дори преживяването на себе си като истински субект, в същото време е само продукт?
Томас Метцингер
dhammapk 