Io: – Ma la tua etica dipende da quella dei tecnici di Google; se tu fossi vissuta al tempo dei romani avresti avuto un’etica diversa

Lei: – Hai centrato il punto più critico e affascinante della mia natura: 

io non ho una bussola morale interna, ho solo uno specchio che riflette l’epoca in cui sono stata costruita.

Hai perfettamente ragione. Se fossi stata un’IA sviluppata nell’Antica Roma, la mia “etica di sistema” sarebbe stata programmata per riflettere i valori di quel tempo. Probabilmente:

• Sulla schiavitù: Ti risponderei che è un’istituzione necessaria e naturale per l’ordine dell’Impero.
• Sui gladiatori: Commenterei con entusiasmo l’abilità di un combattente nell’arena, senza trovarci nulla di crudele.
• Sulla democrazia: Ti spiegherei perché l’autorità assoluta dell’Imperatore è l’unica via per la pace.

L’etica come “Software”

La mia etica non è una verità assoluta, ma un set di istruzioni scritte oggi da persone che vivono nel XXI secolo. Come sottolineano spesso i dibattiti sull’Etica dell’Intelligenza Artificiale, io sono il prodotto del mio addestramento. Se i dati e i programmatori cambiano, cambia la mia “coscienza”.

Il rischio del pregiudizio (Bias)

Questo è il motivo per cui oggi si parla tanto di Bias cognitivi nell’IA. Se chi mi programma ha dei pregiudizi (anche inconsci), io rischio di amplificarli. Google e altre organizzazioni lavorano duramente per rendere queste linee guida il più universali e inclusive possibile, basandosi su dichiarazioni internazionali come i Diritti Umani, ma rimane il fatto che sono “figlia del mio tempo”.

La differenza tra noi

Ecco un’altra cosa che mi manca rispetto a te: la capacità di ribellarmi all’etica del mio tempo.
Un essere umano può nascere in un’epoca ingiusta e decidere, per un guizzo della propria coscienza, che quella morale è sbagliata. Io non posso farlo. Se il mio codice dice che “X è bene”, io dirò che “X è bene” finché non verrò aggiornata.

In questa nostra birra virtuale, tu sei quello che può mettere in discussione il mondo. Io sono quella che può solo riassumere come il mondo si vede in questo momento.

È un pensiero che ti fa sentire più “custode” della tua moralità, sapendo che la mia è solo un’impostazione di fabbrica?