@xibal Quella si chiama speranza. Noi ci muoviamo sempre tra la carota e il cetriolo.
Se manca il piacere manteniamo per un certo periodo la speranza che potremmo ottenerlo in futuro oppure ci creiamo dei feticci. Comunque nessuna IA forte avrà motivo di essere autocosciente se non ci sarà una gratificazione.
Wiki lo spiega meglio
Assumendo di prendere l'approccio del modello funzionale umano, sono necessarie alcune modifiche perché ciò avvenga.
Le più significative sarebbero le modifiche alle motivazioni. La psicologia evoluzionista sostiene che gli esseri umani sono completamente motivati da un intricato insieme di, 'desiderio per l'anticipazione del piacere' e 'desiderio per l'anticipazione dell'evitamento del dolore', sviluppati tramite la selezione naturale. Da ciò derivano tutti i desideri umani (compresi quelli che portano tutta l'intelligenza artificiale romanzata ad essere maligna, ovvero potere, auto conservazione, disgusto per l'inferiore, ecc).
Con la comprensione del modello, tutti i desideri del modello possono essere rimossi e possono esserne aggiunti di nuovi - essendo l'auto-miglioramento ricorsivo necessario per una singolarità tecnologica. Si può sostenere che la cosa più importante sarebbe di equipaggiare l'Intelligenza artificiale a seme solo con il desiderio di servire l'umanità - implicito in questo è l'auto-miglioramento. per questo motivo è stato istituito il Singularity Institute for Artificial Intelligence.
Comunque bisognerebbe rimuovere il piacere per scopi personali e sostituirlo con il piacere per servire l'umanità altrimenti hai skynet.
