Repository Wiki
nikkigallery/Whimbox

游戏自动化能力/拍照活动与小游戏任务

本文介绍 Whimbox 后端中与“拍照活动”和“小游戏任务”相关的游戏自动化能力边界、运行方式及其在整体自动化系统中的位置。当前可获得的项目说明仅列出功能分类,未提供该能力对应的具体任务实现、入口函数、识别流程或配置定义;因此本文只记录已被项目说明明确支持的事实,并明确标注尚未能从源码确认的实现细节。

Purpose and Scope

本页的范围是“游戏自动化能力/拍照活动与小游戏任务”这一目录主题,重点说明它在 Whimbox 自动化能力体系中的定位、可确认的运行前提、与截图及模拟输入机制的关系,以及当前资料能够支持的边界。

项目说明明确指出,Whimbox 是面向《无限暖暖》的 AI 智能体后端,负责 RPC 服务、大模型调用和工具调用;它通过截图和模拟鼠标键盘完成交互,不修改游戏文件,也不读写游戏内存。说明中同时列出“自动小功能”和“每日任务”等能力类别,但没有单独列出“拍照活动”或“小游戏任务”的具体任务名称、任务调度器、识别模型、奖励领取逻辑或失败重试策略。

因此,以下内容不把未见到的实现当作既定行为。对于拍照活动和小游戏任务的具体业务流程,源码实现细节尚未在现有资料中找到。每日任务、自动跑图、宏录制、AI 对话及前端 App 的完整说明属于相邻主题;本页只作定位,不展开其内部实现。

Overview

Whimbox 的自动化能力建立在“感知—决策—交互”的闭环之上:程序获取游戏画面,通过图像识别或大模型相关能力判断当前状态,再使用鼠标键盘模拟完成操作。项目说明给出的目录职责可以帮助确定该能力的系统边界:

  • interaction/ 负责交互核心,包括截图和操作;
  • api/ 提供 OCR、YOLO 等第三方模型能力;
  • ui/ 负责游戏 UI 的识别和操作;
  • task/ 保存供 agent 调用的各种功能脚本;
  • ability/ 负责能力切换;
  • agent.py 负责大模型 agent;
  • rpc_server.py 负责与前端通信的 RPC 服务;
  • main.py 是程序入口。

从这些目录职责可以确认,若“拍照活动”和“小游戏任务”存在独立实现,它们最可能属于 task/ 中的任务脚本,并通过 ability/ 或 agent 工具调用暴露给上层;其画面识别可能依赖 ui/ 与 api/,实际输入则依赖 interaction/。但现有资料没有给出对应模块的文件名或调用关系,不能进一步断言具体类名、函数名或流程。

Architecture

下图只表示项目说明明确给出的模块职责及其概念性依赖,不表示已经验证过的具体函数调用。拍照活动和小游戏任务的专属节点以“任务脚本”概念表示,因为现有资料未提供其具体实现名称。

Loading diagram...

架构含义如下:前端或外部调用方通过 RPC 连接后端;agent 可以根据自然语言调用已注册能力;能力切换模块负责选择具体自动化能力;任务脚本承载面向游戏目标的操作;识别模块和交互模块共同完成对游戏画面的判断与输入。对于拍照活动或小游戏任务,是否确实经过这些节点、是否存在专用识别器以及是否需要持久化状态,仍需以对应源码为准。

已确认的能力边界

运行形态

项目说明称,Whimbox 2.0 通过 Whimbox App 运行,当前仓库是后端,不再提供 UI,仅负责 RPC 服务、大模型调用和工具调用。因而拍照活动与小游戏任务若由该后端提供,也应被理解为后端自动化能力,而不是独立的桌面 UI 功能。

输入与游戏交互

已确认的交互约束是:Whimbox 只截图并模拟鼠标键盘,不修改游戏文件、不读写游戏内存。项目说明还指出,当前仅支持标准 16:9 分辨率运行的游戏,并且图像识别会额外消耗性能,因此运行环境需要中高配 PC。上述限制对于依赖画面定位的拍照或小游戏操作尤其重要,但资料没有说明这些任务是否有额外分辨率或窗口状态要求。

能力组织

项目说明将任务脚本放在 task/,并将“能力切换模块”单列为 ability/。这表明系统具有按能力组织自动化功能的结构。现有资料没有证明拍照活动或小游戏任务是否分别对应独立脚本、是否共享公共步骤,也没有证明它们是否可被自然语言直接调用。

可能的执行链路与资料边界

基于项目说明能够确认的最小链路是:调用方请求后端能力,后端通过 RPC 接收请求,agent 或工具层选择任务,任务通过截图识别游戏状态,并通过模拟鼠标键盘完成操作。下面的图只描述已知模块职责之间的关系;其中“识别任务状态”和“执行活动操作”不是已读取的具体函数名。

Loading diagram...

该链路不能用于推断具体返回值、异常类型、超时、重试或状态机。当前资料没有提供这些 API 契约。

拍照活动

项目主题包含“拍照活动”,但现有项目说明的功能清单没有明确列出该功能,也没有提供拍照活动的任务名称、触发条件、目标判定、相机控制方式或完成条件。因此以下关键信息目前无法从现有资料确认:

  • 是否存在独立的拍照活动任务模块;
  • 是否通过 OCR、YOLO、模板匹配或大模型判断拍照界面;
  • 是否自动移动角色、调整视角或仅操作菜单;
  • 是否会验证照片目标、角度、滤镜或构图要求;
  • 是否自动提交照片并领取奖励;
  • 失败后是否重试、跳过或返回错误;
  • 是否记录任务完成状态。

在没有对应实现源码之前,不应为这些行为编写 API 说明、配置表或操作示例。能够确认的只有其应遵守 Whimbox 的通用交互约束:基于截图和模拟鼠标键盘工作,并受标准 16:9 与机器性能条件影响。

小游戏任务

项目说明同样没有给出“小游戏任务”的具体名称或实现文件。虽然“每日任务”和“自动小功能”列出了若干已支持能力,例如美鸭梨挖掘、素材激化幻境、闪光祝福幻境、魔物试炼幻境、周本、朝夕心愿、星海拾光、星光结晶、大月卡及奇迹之冠巅峰赛,但这些条目不能被自动等同为拍照活动或小游戏任务。

因此目前无法确认小游戏任务的:

  • 进入入口和前置条件;
  • 游戏规则和状态判断;
  • 鼠标键盘输入序列;
  • 结果判定和奖励领取;
  • 并发执行或任务互斥关系;
  • 中断恢复、失败重试及日志格式。

若后续补充 task/ 下的实际任务脚本、能力注册代码及相关识别器,应优先从任务入口开始核对完整链路,再补充本页的 API、状态机、配置和故障处理章节。

与其他自动化能力的关系

项目说明列出的相邻能力包括:

  • 每日任务:包含多项日常内容、周本以及奖励领取;
  • 自动小功能:自动对话、自动采集、自动钓鱼、自动清洁跳过;
  • 自动跑图:路线录制、编辑、自动跑图及沿途采集、捕虫、清洁、钓鱼;
  • 录制宏:录制并播放操作,但不支持视角转动的操作;
  • 自动弹琴:把 MIDI 乐谱转换为奇想盒脚本;
  • AI 对话:通过自然语言调用上述能力,并支持一定程度的 SKILL 与微信远程控制。

这些能力说明了 Whimbox 的总体自动化范围,但不应作为拍照活动或小游戏任务的实现证据。特别是“录制宏不支持视角转动”这一限制,不能推导出拍照活动是否支持视角控制;必须查看专门任务代码后才能确定。

配置与运行前提

现有资料只明确给出以下运行要求:

项目已确认内容
Python项目仅支持 Python 3.12
前端形态Whimbox 2.0 通过 Whimbox App 运行
后端职责RPC 服务、大模型调用、工具调用
游戏分辨率仅支持标准 16:9 分辨率
交互方式截图与模拟鼠标键盘
内存与文件不读写游戏内存,不修改游戏文件
硬件图像识别会额外消耗性能,当前面向中高配 PC

配置文件目录中存在 configs/config.json,并有 configs/agent_workspace/ 用于 agent 记忆;但现有资料没有给出与拍照活动或小游戏任务直接对应的配置键、默认值或环境变量。不能凭目录名猜测这些配置项。

API 与扩展点

当前资料确认后端存在 rpc_server.py,并确认 agent 与工具调用是系统职责的一部分,但没有提供 RPC 方法名、请求结构、响应结构、认证方式或异常协议。因此本页不列出未经源码验证的 API 签名。

从目录职责上看,后续实现可能需要在任务层增加任务脚本,并在能力切换或 agent 工具层完成注册;但这只是待源码验证的扩展方向,不是已确认的扩展契约。安全扩展时应先确认现有任务的注册机制、公共交互抽象、日志约定和生命周期管理,避免直接假设模块接口。

失败模式、边界条件与运维注意事项

已确认的通用风险包括:

  1. 性能不足:游戏本身消耗较多 PC 性能,图像识别会进一步增加负载;中低配设备可能无法稳定运行。
  2. 分辨率不兼容:项目目前只支持标准 16:9 分辨率,其他比例下的坐标和识别结果不能视为可靠。
  3. 用户条款风险:项目说明认为其不修改文件、不读写内存,理论上不会导致封号,但同时明确游戏用户条款覆盖范围很广,使用风险由用户自行承担。
  4. 源码信息不足:对于拍照活动和小游戏任务,当前没有可验证的超时、重试、恢复或异常处理说明;运行行为不能依据本页推断。
  5. 前后端边界:当前仓库不再提供 UI,运行需要通过 Whimbox App;直接把后端当作完整桌面应用使用不符合项目说明。

测试与可验证性

现有资料没有列出测试目录、测试用例或拍照活动/小游戏任务的验收标准,因此无法确认这些能力是否具有自动化测试覆盖。后续补充文档时,至少应从实际测试或运行脚本中核对:识别成功与失败路径、窗口和分辨率前提、任务重复执行行为、RPC 错误返回,以及任务中断后的恢复策略。

当前资料缺口

为了把本页从能力边界说明扩展为可执行的工程参考,还需要读取以下实际源码或配置:

  • task/ 中与拍照活动和小游戏任务对应的具体文件;
  • ability/ 中的能力注册、切换及生命周期代码;
  • interaction/ 中截图、鼠标键盘模拟和等待逻辑;
  • ui/ 与 api/ 中用于界面或目标识别的实现;
  • agent.py、rpc_server.py 中的调用入口和请求协议;
  • configs/config.json 中相关配置;
  • 对应测试、日志或运行脚本。

在这些资料可用前,具体 API 签名、状态转换、数据持久化、并发模型、性能指标和重试策略均应标记为“实现细节尚未从源码确认”。

  • 对于后端整体运行方式,请参阅项目 README 中的“如何运行”与“项目结构”说明。
  • 对于每日任务、自动跑图、宏录制和 AI 对话,请参阅各自的能力文档;本页不替代这些主题。
  • Whimbox App 是项目说明中推荐的 2.0 运行入口;其完整 UI 与前端行为不属于本后端主题。

Sources

(1 files)