언어 모델의 거부 행동은 단일 방향에 의해 매개됨

18억~720억 매개변수 규모의 오픈소스 대화 모델 13개에서 모델별 단일 활성화 방향을 제거하면 유해한 요청의 거부가 줄고, 반대로 더하면 무해한 요청도 거부하는 현상을 확인함 유해한 지시와 무해한 지시에 대한 평균 활성화의 차이로 거부 방향을 추출…