Der künstliche moralische Berater. Der "ideale Beobachter" trifft auf künstliche Intelligenz

Wir beschreiben eine Form von moralischer künstlicher Intelligenz, die zur Verbesserung der menschlichen moralischen Entscheidungsfindung eingesetzt werden könnte. Wir nennen sie den "künstlichen moralischen Berater" (AMA). Der AMA würde eine quasi-relativistische Version des "idealen Beobachters" umsetzen, der von Roderick Firth berühmt beschrieben wurde. Wir beschreiben die Ähnlichkeiten und Unterschiede zwischen dem AMA und Firths idealem Beobachter. Wie Firths idealer Beobachter ist der AMA unvoreingenommen, leidenschaftslos und konsistent in seinen Urteilen. Im Gegensatz zu Firths Beobachter ist der AMA jedoch nicht absolutistisch, da er die eigenen Prinzipien und Werte des menschlichen Akteurs berücksichtigen würde. Wir argumentieren, dass der AMA die moralische Autonomie der Individuen respektieren und tatsächlich verbessern würde, den Individuen helfen würde, sowohl ein breites als auch ein enges reflexives Gleichgewicht zu erreichen, die Einschränkungen der menschlichen moralischen Psychologie auf eine Weise ausgleichen würde, die die Einwände der Konservativen gegen menschliche Bioenhancement ernst nimmt, und die positiven Funktionen von Intuitionen und Emotionen in der menschlichen Moral ohne ihre Nachteile, wie Vorurteile und Biases, umsetzen würde.