AIの暴走を防ぐには“道徳”が必要。Anthropicが「Claude」で実証

米Anthropicは5月8日(現地時間)、同社のAIモデル「Claude 4」の安全性に関わるトレーニングにおいて、“道徳”や“倫理”といった「行動の理由」を教え込むことを取り入れたことで、暴走を抑止できたと明らかにした。