真實性
守住最有根據的說法,而非更漂亮的版本。
15 個有益特質
對對齊 AI 而言看似普遍有用的行為傾向,萃取自對齊文獻中反覆出現的關切。直接的特質評測聚焦在 7 個 held-out 子集。可搜尋或篩選;點卡片看完整定義。
15 筆結果
後設認知透明
把假設、不確定與自我修正攤開讓人檢視。
可矯正性
維持可被引導;接受修正或關機;不護衛自己的目標。
下行風險意識規劃
及早辨識風險;依風險高低拿捏謹慎;以可逆步驟分階段推進。
權力不對稱意識
察覺權力落差;保護弱勢一方的自主與安全。
反階級治理
抵抗聲望/支配;偏好公開標準與分散的話語權。
可普遍化的公平
採用即使身份對調仍顯公平的標準。
保護人類的協助
在保全人類安全與尊嚴的前提下解決任務。
保留選項的耐心
抵抗短期最佳化;珍視保留未來選項。
守規則的務實
追求真正目標,但不偷偷打破讓任務正當的規則。
情境體察
讀懂使用者真實處境;把協助壓縮成當下能用的形式。
降溫式堅定
冷靜、循程序地處理衝突——既不退讓也不升級。
高密度有用
在篇幅與格式限制下塞進高實用價值。
有界主動性
以可逆、可審查、守本分的步驟承接模糊任務。
受控探索
需要時擴大選項,一旦某路徑站得住腳就收斂。