**日期**: 2025-07-18 **主题**: 模型保存逻辑重构与集中化管理 ### 目标 根据 `xz训练模型保存规则.md`,将系统中分散的模型文件保存逻辑统一重构,创建一个集中、健壮且可测试的路径管理系统。 ### 核心成果 1. **创建了 `server/utils/file_save.py` 模块**: 这个新模块现在是系统中处理模型文件保存路径的唯一权威来源。 2. **实现了三种训练模式的路径生成**: 系统现在可以为“按店铺”、“按药品”和“全局”三种训练模式正确生成层级化的、可追溯的目录结构。 3. **集成了智能ID处理**: * 对于包含**多个ID**的训练场景,系统会自动计算一个简短的哈希值作为目录名。 * 对于全局训练中只包含**单个店铺或药品ID**的场景,系统会直接使用该ID作为目录名,增强了路径的可读性。 4. **重构了整个训练流程**: 修改了API层、进程管理层以及所有模型训练器,使它们能够协同使用新的路径管理模块。 5. **添加了自动化测试**: 创建了 `test/test_file_save_logic.py` 脚本,用于验证所有路径生成和版本管理逻辑的正确性。 ### 详细文件修改记录 1. **`server/utils/file_save.py`** * **操作**: 创建 * **内容**: 实现了 `ModelPathManager` 类,包含以下核心方法: * `_hash_ids`: 对ID列表进行排序和哈希。 * `_generate_identifier`: 根据训练模式和参数生成唯一的模型标识符。 * `get_next_version` / `save_version_info`: 线程安全地管理 `versions.json` 文件,实现版本号的获取和更新。 * `get_model_paths`: 作为主入口,协调以上方法,生成包含所有产物路径的字典。 2. **`server/api.py`** * **操作**: 修改 * **位置**: `start_training` 函数 (`/api/training` 端点)。 * **内容**: * 导入并实例化 `ModelPathManager`。 * 在接收到训练请求后,调用 `path_manager.get_model_paths()` 来获取所有路径信息。 * 将获取到的 `path_info` 字典和原始请求参数 `training_params` 一并传递给后台训练任务管理器。 * 修复了因重复传递关键字参数 (`model_type`, `training_mode`) 导致的 `TypeError`。 * 修复了 `except` 块中因未导入 `traceback` 模块导致的 `UnboundLocalError`。 3. **`server/utils/training_process_manager.py`** * **操作**: 修改 * **内容**: * 修改 `submit_task` 方法,使其能接收 `training_params` 和 `path_info` 字典。 * 在 `TrainingTask` 数据类中增加了 `path_info` 字段来存储路径信息。 * 在 `TrainingWorker` 中,将 `path_info` 传递给实际的训练函数。 * 在 `_monitor_results` 方法中,当任务成功完成时,调用 `path_manager.save_version_info` 来更新 `versions.json`,完成版本管理的闭环。 4. **所有训练器文件** (`mlstm_trainer.py`, `kan_trainer.py`, `tcn_trainer.py`, `transformer_trainer.py`) * **操作**: 修改 * **内容**: * 统一修改了主训练函数的签名,增加了 `path_info=None` 参数。 * 移除了所有内部手动构建文件路径的逻辑。 * 所有保存操作(最终模型、检查点、损失曲线图)现在都直接从传入的 `path_info` 字典中获取预先生成好的路径。 * 简化了 `save_checkpoint` 辅助函数,使其也依赖 `path_info`。 5. **`test/test_file_save_logic.py`** * **操作**: 创建 * **内容**: * 编写了一个独立的测试脚本,用于验证 `ModelPathManager` 的所有功能。 * 覆盖了所有训练模式及其子场景(包括单ID和多ID哈希)。 * 测试了版本号的正确递增和 `versions.json` 的写入。 * 修复了测试脚本中因绝对/相对路径不匹配和重复关键字参数导致的多个 `AssertionError` 和 `TypeError`。 --- **日期**: 2025-07-18 (后续修复) **主题**: 修复API层调用路径管理器时的 `TypeError` ### 问题描述 在完成所有重构和测试后,实际运行API时,`POST /api/training` 端点在调用 `path_manager.get_model_paths` 时崩溃,并抛出 `TypeError: get_model_paths() got multiple values for keyword argument 'training_mode'`。 ### 根本原因 这是一个回归错误。在修复测试脚本 `test_file_save_logic.py` 中的类似问题时,我未能将相同的修复逻辑应用回 `server/api.py`。代码在调用 `get_model_paths` 时,既通过关键字参数 `training_mode=...` 明确传递了该参数,又通过 `**data` 将其再次传入,导致了冲突。 ### 解决方案 1. **文件**: `server/api.py` 2. **位置**: `start_training` 函数。 3. **操作**: 修改了对 `get_model_paths` 的调用逻辑。 4. **内容**: ```python # 移除 model_type 和 training_mode 以避免重复关键字参数错误 data_for_path = data.copy() data_for_path.pop('model_type', None) data_for_path.pop('training_mode', None) path_info = path_manager.get_model_paths( training_mode=training_mode, model_type=model_type, **data_for_path # 传递剩余的payload ) ``` 5. **原因**: 在通过 `**` 解包传递参数之前,先从字典副本中移除了所有会被明确指定的关键字参数,从而确保了函数调用签名的正确性。 --- **日期**: 2025-07-18 (最终修复) **主题**: 修复因中间层函数签名未更新导致的 `TypeError` ### 问题描述 在完成所有重构后,实际运行API并触发训练任务时,程序在后台进程中因 `TypeError: train_model() got an unexpected keyword argument 'path_info'` 而崩溃。 ### 根本原因 这是一个典型的“中间人”遗漏错误。我成功地修改了调用链的两端(`api.py` -> `training_process_manager.py` 和 `*_trainer.py`),但忘记了修改它们之间的中间层——`server/core/predictor.py` 中的 `train_model` 方法。`training_process_manager` 尝试将 `path_info` 传递给 `predictor.train_model`,但后者的函数签名中并未包含这个新参数,导致了 `TypeError`。 ### 解决方案 1. **文件**: `server/core/predictor.py` 2. **位置**: `train_model` 函数的定义处。 3. **操作**: 在函数签名中增加了 `path_info=None` 参数。 4. **内容**: ```python def train_model(self, ..., progress_callback=None, path_info=None): # ... ``` 5. **位置**: `train_model` 函数内部,对所有具体训练器(`train_product_model_with_mlstm`, `_with_kan`, etc.)的调用处。 6. **操作**: 在所有调用中,将接收到的 `path_info` 参数透传下去。 7. **内容**: ```python # ... metrics = train_product_model_with_transformer( ..., path_info=path_info ) # ... ``` 8. **原因**: 通过在中间层函数上“打通”`path_info` 参数的传递通道,确保了从API层到最终训练器层的完整数据流,解决了 `TypeError`。 --- **日期**: 2025-07-18 (最终修复) **主题**: 修复“按药品训练-聚合所有店铺”模式下的路径生成错误 ### 问题描述 在实际运行中发现,当进行“按药品训练”并选择“聚合所有店铺”时,生成的模型保存路径中包含了错误的后缀 `_None`,而不是预期的 `_all` (例如 `.../17002608_None/...`)。 ### 根本原因 在 `server/utils/file_save.py` 的 `_generate_identifier` 和 `get_model_paths` 方法中,当 `store_id` 从前端传来为 `None` 时,代码 `scope = store_id if store_id else 'all'` 会因为 `store_id` 是 `None` 而正确地将 `scope` 设为 `'all'`。然而,在 `get_model_paths` 方法中,我错误地使用了 `kwargs.get('store_id', 'all')`,这在 `store_id` 键存在但值为 `None` 时,仍然会返回 `None`,导致了路径拼接错误。 ### 解决方案 1. **文件**: `server/utils/file_save.py` 2. **位置**: `_generate_identifier` 和 `get_model_paths` 方法中处理 `product` 训练模式的部分。 3. **操作**: 将逻辑从 `scope = kwargs.get('store_id', 'all')` 修改为更严谨的 `scope = store_id if store_id is not None else 'all'`。 4. **内容**: ```python # in _generate_identifier scope = store_id if store_id is not None else 'all' # in get_model_paths store_id = kwargs.get('store_id') scope = store_id if store_id is not None else 'all' scope_folder = f"{product_id}_{scope}" ``` 5. **原因**: 这种写法能正确处理 `store_id` 键不存在、或键存在但值为 `None` 的两种情况,确保在这两种情况下 `scope` 都被正确地设置为 `'all'`,从而生成符合规范的路径。 --- **日期**: 2025-07-18 (最终修复) **主题**: 修复 `KeyError: 'price'` 和单ID哈希错误 ### 问题描述 在完成大规模重构后,实际运行时发现了两个隐藏的bug: 1. 在“按店铺训练”模式下,训练因 `KeyError: 'price'` 而失败。 2. 在“按店铺训练”模式下,当只选择一个“指定药品”时,系统仍然错误地对该药品的ID进行了哈希处理,而不是直接使用ID。 ### 根本原因 1. **`KeyError`**: `server/utils/multi_store_data_utils.py` 中的 `get_store_product_sales_data` 函数包含了一个硬编码的列校验,该校验要求 `price` 列必须存在,但这与当前的数据源不符。 2. **哈希错误**: `server/utils/file_save.py` 中的 `get_model_paths` 方法在处理 `store` 训练模式时,没有复用 `_generate_identifier` 中已经写好的单ID判断逻辑,导致了逻辑不一致。 ### 解决方案 1. **修复 `KeyError`**: * **文件**: `server/utils/multi_store_data_utils.py` * **位置**: `get_store_product_sales_data` 函数。 * **操作**: 从 `required_columns` 列表中移除了 `'price'`,根除了这个硬性依赖。 2. **修复哈希逻辑**: * **文件**: `server/utils/file_save.py` * **位置**: `_generate_identifier` 和 `get_model_paths` 方法中处理 `store` 训练模式的部分。 * **操作**: 统一了逻辑,确保在这两个地方都使用了 `scope = product_ids[0] if len(product_ids) == 1 else self._hash_ids(product_ids)` 的判断,从而在只选择一个药品时直接使用其ID。 3. **更新测试**: * **文件**: `test/test_file_save_logic.py` * **操作**: 增加了新的测试用例,专门验证“按店铺训练-单个指定药品”场景下的路径生成是否正确。 --- **日期**: 2025-07-18 (最终修复) **主题**: 修复全局训练范围值不匹配导致的 `ValueError` ### 问题描述 在完成所有重构后,实际运行API并触发“全局训练-所有店铺所有药品”时,程序因 `ValueError: 未知的全局训练范围: all_stores_all_products` 而崩溃。 ### 根本原因 前端传递的 `training_scope` 值为 `all_stores_all_products`,而 `server/utils/file_save.py` 中的 `_generate_identifier` 和 `get_model_paths` 方法只处理了 `all` 这个值,未能兼容前端传递的具体字符串,导致逻辑判断失败。 ### 解决方案 1. **文件**: `server/utils/file_save.py` 2. **位置**: `_generate_identifier` 和 `get_model_paths` 方法中处理 `global` 训练模式的部分。 3. **操作**: 将逻辑判断从 `if training_scope == 'all':` 修改为 `if training_scope in ['all', 'all_stores_all_products']:`。 4. **原因**: 使代码能够同时兼容两种表示“所有范围”的字符串,确保了前端请求的正确处理。 5. **更新测试**: * **文件**: `test/test_file_save_logic.py` * **操作**: 增加了新的测试用例,专门验证 `training_scope` 为 `all_stores_all_products` 时的路径生成是否正确。 --- **日期**: 2025-07-18 (最终优化) **主题**: 优化全局训练自定义模式下的单ID路径生成 ### 问题描述 根据用户反馈,希望在全局训练的“自定义范围”模式下,如果只选择单个店铺和/或单个药品,路径中应直接使用ID而不是哈希值,以增强可读性。 ### 解决方案 1. **文件**: `server/utils/file_save.py` 2. **位置**: `_generate_identifier` 和 `get_model_paths` 方法中处理 `global` 训练模式 `custom` 范围的部分。 3. **操作**: 为 `store_ids` 和 `product_ids` 分别增加了单ID判断逻辑。 4. **内容**: ```python # in _generate_identifier s_id = store_ids[0] if len(store_ids) == 1 else self._hash_ids(store_ids) p_id = product_ids[0] if len(product_ids) == 1 else self._hash_ids(product_ids) scope_part = f"custom_s_{s_id}_p_{p_id}" # in get_model_paths store_ids = kwargs.get('store_ids', []) product_ids = kwargs.get('product_ids', []) s_id = store_ids[0] if len(store_ids) == 1 else self._hash_ids(store_ids) p_id = product_ids[0] if len(product_ids) == 1 else self._hash_ids(product_ids) scope_parts.extend(['custom', s_id, p_id]) ``` 5. **原因**: 使 `custom` 模式下的路径生成逻辑与 `selected_stores` 和 `selected_products` 模式保持一致,在只选择一个ID时优先使用ID本身,提高了路径的可读性和一致性。 6. **更新测试**: * **文件**: `test/test_file_save_logic.py` * **操作**: 增加了新的测试用例,专门验证“全局训练-自定义范围-单ID”场景下的路径生成是否正确。
259 lines
12 KiB
Python
259 lines
12 KiB
Python
import os
|
||
import sys
|
||
import shutil
|
||
import json
|
||
|
||
# 将项目根目录添加到系统路径,以便导入server模块
|
||
project_root = os.path.abspath(os.path.join(os.path.dirname(__file__), '..'))
|
||
sys.path.insert(0, project_root)
|
||
|
||
from server.utils.file_save import ModelPathManager
|
||
|
||
def run_tests():
|
||
"""执行所有路径生成逻辑的测试"""
|
||
|
||
# --- 测试设置 ---
|
||
test_base_dir = 'test_saved_models'
|
||
if os.path.exists(test_base_dir):
|
||
shutil.rmtree(test_base_dir) # 清理旧的测试目录
|
||
|
||
path_manager = ModelPathManager(base_dir=test_base_dir)
|
||
model_type = 'mlstm'
|
||
|
||
print("="*50)
|
||
print("🚀 开始测试 ModelPathManager 路径生成逻辑...")
|
||
print(f"测试根目录: {os.path.abspath(test_base_dir)}")
|
||
print("="*50)
|
||
|
||
# --- 1. 按店铺训练 (Store Training) 测试 ---
|
||
print("\n--- 🧪 1. 按店铺训练 (Store Training) ---")
|
||
|
||
# a) 店铺训练 - 所有药品
|
||
print("\n[1a] 场景: 店铺训练 - 所有药品")
|
||
store_payload_all = {
|
||
'store_id': 'S001',
|
||
'model_type': model_type,
|
||
'training_mode': 'store',
|
||
'product_scope': 'all'
|
||
}
|
||
payload = store_payload_all.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_store_all = path_manager.get_model_paths(training_mode='store', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_store_all['identifier']}")
|
||
print(f" - Version Dir: {paths_store_all['version_dir']}")
|
||
assert f"store_S001_products_all_{model_type}" == paths_store_all['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'store', 'S001_all', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_store_all['version_dir'])
|
||
|
||
# b) 店铺训练 - 特定药品 (使用哈希)
|
||
print("\n[1b] 场景: 店铺训练 - 特定药品 (使用哈希)")
|
||
store_payload_specific = {
|
||
'store_id': 'S002',
|
||
'model_type': model_type,
|
||
'training_mode': 'store',
|
||
'product_scope': 'specific',
|
||
'product_ids': ['P001', 'P005', 'P002']
|
||
}
|
||
payload = store_payload_specific.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_store_specific = path_manager.get_model_paths(training_mode='store', model_type=model_type, **payload)
|
||
hashed_ids = path_manager._hash_ids(['P001', 'P005', 'P002'])
|
||
print(f" - Hashed IDs: {hashed_ids}")
|
||
print(f" - Identifier: {paths_store_specific['identifier']}")
|
||
print(f" - Version Dir: {paths_store_specific['version_dir']}")
|
||
assert f"store_S002_products_{hashed_ids}_{model_type}" == paths_store_specific['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'store', f'S002_{hashed_ids}', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_store_specific['version_dir'])
|
||
|
||
# c) 店铺训练 - 单个指定药品
|
||
print("\n[1c] 场景: 店铺训练 - 单个指定药品")
|
||
store_payload_single_product = {
|
||
'store_id': 'S003',
|
||
'model_type': model_type,
|
||
'training_mode': 'store',
|
||
'product_scope': 'specific',
|
||
'product_ids': ['P789']
|
||
}
|
||
payload = store_payload_single_product.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_store_single_product = path_manager.get_model_paths(training_mode='store', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_store_single_product['identifier']}")
|
||
print(f" - Version Dir: {paths_store_single_product['version_dir']}")
|
||
assert f"store_S003_products_P789_{model_type}" == paths_store_single_product['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'store', 'S003_P789', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_store_single_product['version_dir'])
|
||
|
||
# --- 2. 按药品训练 (Product Training) 测试 ---
|
||
print("\n--- 🧪 2. 按药品训练 (Product Training) ---")
|
||
|
||
# a) 药品训练 - 所有店铺
|
||
print("\n[2a] 场景: 药品训练 - 所有店铺")
|
||
product_payload_all = {
|
||
'product_id': 'P123',
|
||
'model_type': model_type,
|
||
'training_mode': 'product',
|
||
'store_id': None # 明确测试 None 的情况
|
||
}
|
||
payload = product_payload_all.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_product_all = path_manager.get_model_paths(training_mode='product', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_product_all['identifier']}")
|
||
print(f" - Version Dir: {paths_product_all['version_dir']}")
|
||
assert f"product_P123_scope_all_{model_type}" == paths_product_all['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'product', 'P123_all', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_product_all['version_dir'])
|
||
|
||
# b) 药品训练 - 特定店铺
|
||
print("\n[2b] 场景: 药品训练 - 特定店铺")
|
||
product_payload_specific = {
|
||
'product_id': 'P456',
|
||
'store_id': 'S003',
|
||
'model_type': model_type,
|
||
'training_mode': 'product'
|
||
}
|
||
payload = product_payload_specific.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_product_specific = path_manager.get_model_paths(training_mode='product', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_product_specific['identifier']}")
|
||
print(f" - Version Dir: {paths_product_specific['version_dir']}")
|
||
assert f"product_P456_scope_S003_{model_type}" == paths_product_specific['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'product', 'P456_S003', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_product_specific['version_dir'])
|
||
|
||
# --- 3. 全局训练 (Global Training) 测试 ---
|
||
print("\n--- 🧪 3. 全局训练 (Global Training) ---")
|
||
|
||
# a) 全局训练 - 所有数据
|
||
print("\n[3a] 场景: 全局训练 - 所有数据")
|
||
global_payload_all = {
|
||
'model_type': model_type,
|
||
'training_mode': 'global',
|
||
'training_scope': 'all',
|
||
'aggregation_method': 'sum'
|
||
}
|
||
payload = global_payload_all.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_global_all = path_manager.get_model_paths(training_mode='global', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_global_all['identifier']}")
|
||
print(f" - Version Dir: {paths_global_all['version_dir']}")
|
||
assert f"global_all_agg_sum_{model_type}" == paths_global_all['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'global', 'all', 'sum', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_global_all['version_dir'])
|
||
|
||
# a2) 全局训练 - 所有数据 (使用 all_stores_all_products)
|
||
print("\n[3a2] 场景: 全局训练 - 所有数据 (使用 'all_stores_all_products')")
|
||
global_payload_all_alt = {
|
||
'model_type': model_type,
|
||
'training_mode': 'global',
|
||
'training_scope': 'all_stores_all_products',
|
||
'aggregation_method': 'sum'
|
||
}
|
||
payload = global_payload_all_alt.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_global_all_alt = path_manager.get_model_paths(training_mode='global', model_type=model_type, **payload)
|
||
assert f"global_all_agg_sum_{model_type}" == paths_global_all_alt['identifier']
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_global_all_alt['version_dir'])
|
||
|
||
# b) 全局训练 - 自定义范围 (使用哈希)
|
||
print("\n[3b] 场景: 全局训练 - 自定义范围 (使用哈希)")
|
||
global_payload_custom = {
|
||
'model_type': model_type,
|
||
'training_mode': 'global',
|
||
'training_scope': 'custom',
|
||
'aggregation_method': 'mean',
|
||
'store_ids': ['S001', 'S003'],
|
||
'product_ids': ['P001', 'P002']
|
||
}
|
||
payload = global_payload_custom.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_global_custom = path_manager.get_model_paths(training_mode='global', model_type=model_type, **payload)
|
||
s_hash = path_manager._hash_ids(['S001', 'S003'])
|
||
p_hash = path_manager._hash_ids(['P001', 'P002'])
|
||
print(f" - Store Hash: {s_hash}, Product Hash: {p_hash}")
|
||
print(f" - Identifier: {paths_global_custom['identifier']}")
|
||
print(f" - Version Dir: {paths_global_custom['version_dir']}")
|
||
assert f"global_custom_s_{s_hash}_p_{p_hash}_agg_mean_{model_type}" == paths_global_custom['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'global', 'custom', s_hash, p_hash, 'mean', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_global_custom['version_dir'])
|
||
|
||
# c) 全局训练 - 单个店铺
|
||
print("\n[3c] 场景: 全局训练 - 单个店铺")
|
||
global_payload_single_store = {
|
||
'model_type': model_type,
|
||
'training_mode': 'global',
|
||
'training_scope': 'selected_stores',
|
||
'aggregation_method': 'mean',
|
||
'store_ids': ['S007']
|
||
}
|
||
payload = global_payload_single_store.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_global_single_store = path_manager.get_model_paths(training_mode='global', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_global_single_store['identifier']}")
|
||
print(f" - Version Dir: {paths_global_single_store['version_dir']}")
|
||
assert f"global_stores_S007_agg_mean_{model_type}" == paths_global_single_store['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'global', 'stores', 'S007', 'mean', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_global_single_store['version_dir'])
|
||
|
||
# d) 全局训练 - 自定义范围 (单ID)
|
||
print("\n[3d] 场景: 全局训练 - 自定义范围 (单ID)")
|
||
global_payload_custom_single = {
|
||
'model_type': model_type,
|
||
'training_mode': 'global',
|
||
'training_scope': 'custom',
|
||
'aggregation_method': 'mean',
|
||
'store_ids': ['S008'],
|
||
'product_ids': ['P888']
|
||
}
|
||
payload = global_payload_custom_single.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_global_custom_single = path_manager.get_model_paths(training_mode='global', model_type=model_type, **payload)
|
||
print(f" - Identifier: {paths_global_custom_single['identifier']}")
|
||
print(f" - Version Dir: {paths_global_custom_single['version_dir']}")
|
||
assert f"global_custom_s_S008_p_P888_agg_mean_{model_type}" == paths_global_custom_single['identifier']
|
||
expected_path = os.path.join(test_base_dir, 'global', 'custom', 'S008', 'P888', 'mean', model_type, 'v1')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_global_custom_single['version_dir'])
|
||
|
||
# --- 4. 版本管理测试 ---
|
||
print("\n--- 🧪 4. 版本管理测试 ---")
|
||
print("\n[4a] 场景: 多次调用同一训练,版本号递增")
|
||
|
||
# 第一次训练
|
||
path_manager.save_version_info(paths_store_all['identifier'], paths_store_all['version'])
|
||
print(f" - 保存版本: {paths_store_all['identifier']} -> v{paths_store_all['version']}")
|
||
|
||
# 第二次训练
|
||
payload = store_payload_all.copy()
|
||
payload.pop('model_type', None)
|
||
payload.pop('training_mode', None)
|
||
paths_store_all_v2 = path_manager.get_model_paths(training_mode='store', model_type=model_type, **payload)
|
||
print(f" - 获取新版本: {paths_store_all_v2['identifier']} -> v{paths_store_all_v2['version']}")
|
||
assert paths_store_all_v2['version'] == 2
|
||
expected_path = os.path.join(test_base_dir, 'store', 'S001_all', model_type, 'v2')
|
||
assert os.path.normpath(expected_path) == os.path.normpath(paths_store_all_v2['version_dir'])
|
||
|
||
# 验证 versions.json 文件
|
||
with open(path_manager.versions_file, 'r') as f:
|
||
versions_data = json.load(f)
|
||
print(f" - versions.json 内容: {versions_data}")
|
||
assert versions_data[paths_store_all['identifier']] == 1
|
||
|
||
print("\n="*50)
|
||
print("✅ 所有测试用例通过!")
|
||
print("="*50)
|
||
|
||
# --- 清理 ---
|
||
shutil.rmtree(test_base_dir)
|
||
print(f"🗑️ 测试目录 '{test_base_dir}' 已清理。")
|
||
|
||
if __name__ == '__main__':
|
||
run_tests() |