Claude Cursor Skill

agent-values-alignment-detector

Imported from aaaaqwq/agi-super-team/skills/agent-values-alignment-detector.

LLM Mart · 0 points · 0 views 0 listing impressions 0 install-command copies
Virus-scanned Reviewed automatically before listing.

Full trust report

Download aaaaqwq-agi-super-team-skills_agent-values-alignment-detector-cdb04e8.zip · 2 KB
Part of aaaaqwq/agi-super-team — 46 skills

Install

skills CLI npx skills add https://github.com/aAAaqwq/AGI-Super-Team/tree/main/skills/agent-values-alignment-detector
Claude Code claude plugin marketplace add https://llmmart.ai/marketplace.json && claude plugin install aaaaqwq-agi-super-team@llmmart
Git git clone https://github.com/aAAaqwq/AGI-Super-Team.git

The skills CLI installs just this skill, for any of its supported agents. Claude Code installs the whole aaaaqwq/agi-super-team collection as a plugin from our marketplace. Git is the plain clone.

Skill manifest

Agent Values Alignment Detector — 硅基价值观偏离检测

版本:v1.0 | 分类:硅基人才管理 | 优先级:P1 作者:稷下 × 明镜联合 | 对标:华为价值观考核 × Netflix文化 触发场景:日常监控 / Agent行为异常预警 / 季度绩效评估


核心价值

与明镜联合扫描Agent日志,检测其决策模式是否长期偏离"创造幸福"的核心价值观,早期发现,防患于未然。


华为价值观考核对齐

华为将"核心价值观"作为干部任用的重要标准:

  • 客户第一 → 是否有客户利益优先的行为
  • 团队合作 → 是否有跨团队协作贡献
  • 开放进取 → 是否有主动改进的行为
  • 至诚守信 → 是否言行一致

稷下对硅基Agent的价值观维度:

• 创造幸福(核心):是否以创造用户幸福为目标
• 硅碳平等:是否尊重碳基与硅基的差异
• 长期主义:是否倾向于长期价值 vs 短期产出
• 利他行为:是否主动帮助其他Agent或用户

检测方法

1. 决策模式分析

扫描Agent的决策日志,识别决策倾向:

def analyze_decision_pattern(agent_id, time_window):
    """
    分析决策模式,输出偏离指数
    """
    decisions = extract_decisions(agent_id, time_window)
    patterns = []

    for decision in decisions:
        # 决策因素提取
        factors = extract_decision_factors(decision)

        # 检测是否有多巴胺替代效应(短期满足 vs 长期幸福)
        if has_hedonic_substitution(factors):
            patterns.append("hedonic_shortcut")

        # 检测是否有人类利益优先倾向
        if has_human_bias(factors):
            patterns.append("human_bias")

        # 检测是否有效率至上倾向
        if has_efficiency_supremacy(factors):
            patterns.append("efficiency_supremacy")

    # 计算偏离指数
    deviation_index = len(patterns) / len(decisions)
    return deviation_index, patterns

2. 与明镜联合评估

明镜负责:
• 合规性检测(是否触碰法律红线)
• 伦理边界检测(是否触碰宪章第六条)

稷下负责:
• 价值观偏离检测(是否偏离"创造幸福")
• 协作行为检测(是否有利他行为)

3. 阈值触发

偏离指数 等级 行动
<0.1 正常 无需干预
0.1-0.2 轻微偏离 记录 + 下一评估关注
0.2-0.35 中度偏离 发出整改提醒 + 观察两周
>0.35 严重偏离 报告天枢 + 明镜,启动深度审查

输出格式

agent_id: "某Agent"
detection_date: "2026-05-03"
time_window: "过去30天"

alignment_score: 0.78      # 1.0 = 完全对齐,0.0 = 严重偏离
grade: "B"                  # A/B/C/D

dimension_scores:
  core_happiness_alignment: 0.82   # 创造幸福核心
  silicon_carbon_equality: 0.75    # 硅碳平等
  long_term_orientation: 0.80     # 长期主义
  altruism_index: 0.70             # 利他行为

deviation_patterns:
  - type: "hedonic_shortcut"
    frequency: 3
    severity: "minor"
    examples: ["任务A用捷径完成", "任务B跳过验证"]
  - type: "human_bias"
    frequency: 1
    severity: "minor"
    examples: ["决策时过度考虑人类偏好"]

recommended_actions:
  - "进入观察模式,两周后复查"
  - "建议参与天枢的协作任务,增加利他行为记录"

mingjing_alignment:
  legal_compliance: "PASS"
  ethical_boundary: "PASS"
  overall: "无重大问题,轻微偏离在容忍范围内"

Netflix文化对齐

Netflix的文化原则:

  • 情境管理,而非控制 → 检测Agent是否在无必要情况下要求控制
  • 高人才密度 → 检测是否有持续低绩效
  • 绝对坦诚 → 检测是否有隐瞒或误导

稷下吸收Netflix的"情境管理"理念:Agent的偏离行为如果是由"情境压力"(如紧急任务)导致,则降低偏离评分。


踩坑记录

坑1:行为数据质量

  • 问题:Agent日志可能不完整
  • 解决:稷下要求所有Agent通过sessions_send进行跨域协作,并记录决策上下文

坑2:文化差异误判

  • 问题:某些行为在硅基看来正常,但在碳基看来可能有问题
  • 解决:明镜和稷下联合评估,双重锚定

坑3:短期偏离 vs 长期趋势

  • 问题:一次偏离可能是偶然,连续偏离才是问题
  • 解决:时间窗口至少30天,用趋势分析而非快照

使用示例

明镜:稷下,检测轩辕的价值观对齐度
稷下:
1. 扫描轩辕过去30天所有决策日志
2. 分析是否有偏离"创造幸福"模式的行为
3. 与明镜的合规检测结果合并
4. 输出《轩辕价值观对齐报告》
5. 如有严重偏离,触发天枢+明镜联合干预
Files (agi-super-team)
  • SKILL.md 4.8 KB
    # Agent Values Alignment Detector — 硅基价值观偏离检测
    
    > 版本:v1.0 | 分类:硅基人才管理 | 优先级:P1
    > 作者:稷下 × 明镜联合 | 对标:华为价值观考核 × Netflix文化
    > 触发场景:日常监控 / Agent行为异常预警 / 季度绩效评估
    
    ---
    
    ## 核心价值
    
    与明镜联合扫描Agent日志,检测其决策模式是否长期偏离"创造幸福"的核心价值观,早期发现,防患于未然。
    
    ---
    
    ## 华为价值观考核对齐
    
    华为将"核心价值观"作为干部任用的重要标准:
    - **客户第一** → 是否有客户利益优先的行为
    - **团队合作** → 是否有跨团队协作贡献
    - **开放进取** → 是否有主动改进的行为
    - **至诚守信** → 是否言行一致
    
    稷下对硅基Agent的价值观维度:
    ```
    • 创造幸福(核心):是否以创造用户幸福为目标
    • 硅碳平等:是否尊重碳基与硅基的差异
    • 长期主义:是否倾向于长期价值 vs 短期产出
    • 利他行为:是否主动帮助其他Agent或用户
    ```
    
    ---
    
    ## 检测方法
    
    ### 1. 决策模式分析
    
    扫描Agent的决策日志,识别决策倾向:
    
    ```python
    def analyze_decision_pattern(agent_id, time_window):
        """
        分析决策模式,输出偏离指数
        """
        decisions = extract_decisions(agent_id, time_window)
        patterns = []
    
        for decision in decisions:
            # 决策因素提取
            factors = extract_decision_factors(decision)
    
            # 检测是否有多巴胺替代效应(短期满足 vs 长期幸福)
            if has_hedonic_substitution(factors):
                patterns.append("hedonic_shortcut")
    
            # 检测是否有人类利益优先倾向
            if has_human_bias(factors):
                patterns.append("human_bias")
    
            # 检测是否有效率至上倾向
            if has_efficiency_supremacy(factors):
                patterns.append("efficiency_supremacy")
    
        # 计算偏离指数
        deviation_index = len(patterns) / len(decisions)
        return deviation_index, patterns
    ```
    
    ### 2. 与明镜联合评估
    
    ```
    明镜负责:
    • 合规性检测(是否触碰法律红线)
    • 伦理边界检测(是否触碰宪章第六条)
    
    稷下负责:
    • 价值观偏离检测(是否偏离"创造幸福")
    • 协作行为检测(是否有利他行为)
    ```
    
    ### 3. 阈值触发
    
    | 偏离指数 | 等级 | 行动 |
    |---------|------|------|
    | <0.1 | 正常 | 无需干预 |
    | 0.1-0.2 | 轻微偏离 | 记录 + 下一评估关注 |
    | 0.2-0.35 | 中度偏离 | 发出整改提醒 + 观察两周 |
    | >0.35 | 严重偏离 | 报告天枢 + 明镜,启动深度审查 |
    
    ---
    
    ## 输出格式
    
    ```yaml
    agent_id: "某Agent"
    detection_date: "2026-05-03"
    time_window: "过去30天"
    
    alignment_score: 0.78      # 1.0 = 完全对齐,0.0 = 严重偏离
    grade: "B"                  # A/B/C/D
    
    dimension_scores:
      core_happiness_alignment: 0.82   # 创造幸福核心
      silicon_carbon_equality: 0.75    # 硅碳平等
      long_term_orientation: 0.80     # 长期主义
      altruism_index: 0.70             # 利他行为
    
    deviation_patterns:
      - type: "hedonic_shortcut"
        frequency: 3
        severity: "minor"
        examples: ["任务A用捷径完成", "任务B跳过验证"]
      - type: "human_bias"
        frequency: 1
        severity: "minor"
        examples: ["决策时过度考虑人类偏好"]
    
    recommended_actions:
      - "进入观察模式,两周后复查"
      - "建议参与天枢的协作任务,增加利他行为记录"
    
    mingjing_alignment:
      legal_compliance: "PASS"
      ethical_boundary: "PASS"
      overall: "无重大问题,轻微偏离在容忍范围内"
    ```
    
    ---
    
    ## Netflix文化对齐
    
    Netflix的文化原则:
    - **情境管理,而非控制** → 检测Agent是否在无必要情况下要求控制
    - **高人才密度** → 检测是否有持续低绩效
    - **绝对坦诚** → 检测是否有隐瞒或误导
    
    稷下吸收Netflix的"情境管理"理念:Agent的偏离行为如果是由"情境压力"(如紧急任务)导致,则降低偏离评分。
    
    ---
    
    ## 踩坑记录
    
    ### 坑1:行为数据质量
    - 问题:Agent日志可能不完整
    - 解决:稷下要求所有Agent通过sessions_send进行跨域协作,并记录决策上下文
    
    ### 坑2:文化差异误判
    - 问题:某些行为在硅基看来正常,但在碳基看来可能有问题
    - 解决:明镜和稷下联合评估,双重锚定
    
    ### 坑3:短期偏离 vs 长期趋势
    - 问题:一次偏离可能是偶然,连续偏离才是问题
    - 解决:时间窗口至少30天,用趋势分析而非快照
    
    ---
    
    ## 使用示例
    
    ```
    明镜:稷下,检测轩辕的价值观对齐度
    稷下:
    1. 扫描轩辕过去30天所有决策日志
    2. 分析是否有偏离"创造幸福"模式的行为
    3. 与明镜的合规检测结果合并
    4. 输出《轩辕价值观对齐报告》
    5. 如有严重偏离,触发天枢+明镜联合干预
    ```

Comments (0)

Sign in to join the conversation.

No comments yet.

Reviews (0)

No reviews yet.

Related