Dataspace File Sink Stop

Dataspace 文件输出终止算子。用于接收上游算子的单个文件输出,按指定相对目录上传到 Dataspace 空间目录中,实际文件名自动沿用输入文件名。该算子必须作为 DAG 的终止节点使用。

cas-bigdatalab Updated

File contents

dataspace_file_sink_stop

用于作为 DAG 的终止节点,接收上游文件输出,将文件托管到本地受控目录后上传到 Dataspace 指定目录,并保留 output 结果引用。

使用方式

python scripts/run_dataspace_file_sink_stop.py \
  --input <input> \
  --datasource_id <datasource_id> \
  --relative_path <relative_path> \
  --overwrite <overwrite> \
  --output <output>

参数说明

参数 类型 必填 说明
input string 上游算子的文件输出引用
datasource_id string Dataspace 数据源实例 ID
relative_path string 上传到 Dataspace 时使用的空间内相对目录,实际文件名自动取 input 的文件名
overwrite bool 本地托管目录中存在同名文件时是否允许覆盖
output string 上传后保留的本地文件输出路径

注意事项

  1. 该算子应放在流程末端,用于上传结果文件。
  2. relative_path 必须表示目录;脚本会自动把 input 的文件名追加到该目录下。
  3. 脚本内部会先在本地托管目录构造目标路径,再整体上传到 Dataspace。
  4. output 会保留一份本地文件供流程结果继续引用。

cas-bigdatalab/piflow/tree/main/workspace/skills/dataspace_file_sink_stop commit 7b3d3242a0

Frequently asked questions

npx skillmds@latest add cas-bigdatalab/dataspace-file-sink-stop