PRZEŁOM/ARXIV CS.AI
Alignment AI przez wzmacnianie: trwałe wartości poza treningiem
Badania pokazują, że uczenie przez wzmacnianie może wyprodukować modele AI z trwałym wyrównaniem do ludzkich wartości, nawet w domach spoza danych treningowych. Zastosowanie obejmuje mierzenie i trening cech takich jak uczciwość, sprawiedliwość i podatność na korektę.
#AI ALIGNMENT#REINFORCEMENT LEARNING#VALUE GENERALIZATION