dataspace_file_sink_stop
用于作为 DAG 的终止节点,接收上游文件输出,将文件托管到本地受控目录后上传到 Dataspace 指定目录,并保留 output 结果引用。
使用方式
python scripts/run_dataspace_file_sink_stop.py \
--input <input> \
--datasource_id <datasource_id> \
--relative_path <relative_path> \
--overwrite <overwrite> \
--output <output>
参数说明
| 参数 | 类型 | 必填 | 说明 |
|---|---|---|---|
input |
string | 是 | 上游算子的文件输出引用 |
datasource_id |
string | 是 | Dataspace 数据源实例 ID |
relative_path |
string | 是 | 上传到 Dataspace 时使用的空间内相对目录,实际文件名自动取 input 的文件名 |
overwrite |
bool | 否 | 本地托管目录中存在同名文件时是否允许覆盖 |
output |
string | 是 | 上传后保留的本地文件输出路径 |
注意事项
- 该算子应放在流程末端,用于上传结果文件。
relative_path必须表示目录;脚本会自动把input的文件名追加到该目录下。- 脚本内部会先在本地托管目录构造目标路径,再整体上传到 Dataspace。
output会保留一份本地文件供流程结果继续引用。