Context API

CustomContext

CustomContext为自定义 Kernel 函数模板参数 Context 的实参,请参照custom_context.h

  // 构造函数
  // 参数:place - CustomPlace 对象
  // 返回:None
  explicit CustomContext(const CustomPlace&);

  // 析构函数
  virtual ~CustomContext();

  // 获取设备上下文 Place 信息
  // 参数:None
  // 返回:place - Place 对象
  const Place& GetPlace() const override;

  // 获取设备上下文 stream 信息
  // 参数:None
  // 返回:stream - void*类型指针
  void* stream() const;

  // 等待 stream 上的操作完成
  // 参数:None
  // 返回:None
  void Wait() const override;

DeviceContext

CustomContext继承自DeviceContext,请参照device_context.h

  // 无参构造函数
  DeviceContext();

  // 拷贝构造函数
  DeviceContext(const DeviceContext&);

  // 移动构造函数
  DeviceContext(DeviceContext&&);

  // 移动赋值操作
  DeviceContext& operator=(DeviceContext&&);

  // 析构函数
  virtual ~DeviceContext();

  // 设置 Device Allocator
  // 参数:Allocator 指针
  // 返回:None
  void SetAllocator(const Allocator*);

  // 设置 Host Allocator
  // 参数:Allocator 指针
  // 返回:None
  void SetHostAllocator(const Allocator*);

  // 设置 zero-size Allocator
  // 参数:Allocator 指针
  // 返回:None
  void SetZeroAllocator(const Allocator*);

  // 获取 Allocator
  // 参数:None
  // 返回:Allocator 对象
  const Allocator& GetAllocator() const;

  // 获取 Host Allocator
  // 参数:None
  // 返回:Allocator 对象
  const Allocator& GetHostAllocator() const;

  // 获取 zero-size Allocator
  // 参数:None
  // 返回:Allocator 对象
  const Allocator& GetZeroAllocator() const;

  // 为 Tensor 分配 Device 内存
  // 参数:TensorBase 类型指针
  //      dtype - DataType 类型变量
  //      requested_size - size_t 类型变量,默认值为 0
  // 返回:数据指针 - void*类型指针
  void* Alloc(TensorBase*, DataType dtype, size_t requested_size = 0) const;

  // 为 Tensor 分配 Device 内存
  // 模板参数:T - 数据类型
  // 参数:TensorBase 类型指针
  //      requested_size - size_t 类型变量,默认值为 0
  // 返回:数据指针 - T*类型指针
  template <typename T>
  T* Alloc(TensorBase* tensor, size_t requested_size = 0) const;

  // 为 Tensor 分配 Host 内存
  // 参数:TensorBase 指针
  //      dtype - DataType 类型变量
  //      requested_size - size_t 类型变量,默认值为 0
  // 返回:数据指针 - void*类型指针
  void* HostAlloc(TensorBase* tensor,
                  DataType dtype,
                  size_t requested_size = 0) const;

  // 为 Tensor 分配 Host 内存
  // 模板参数:T - 数据类型
  // 参数:TensorBase 指针
  //      requested_size - size_t 类型变量,默认值为 0
  // 返回:数据指针 - T*类型数据指针
  template <typename T>
  T* HostAlloc(TensorBase* tensor, size_t requested_size = 0) const;

  // 获取设备上下文 Place 信息,子类实现
  // 参数:None
  // 返回:place - Place 对象
  virtual const Place& GetPlace() const = 0;

  // 等待 stream 上的操作完成,子类实现
  // 参数:None
  // 返回:None
  virtual void Wait() const {}

  // 设置随机数发生器
  // 参数:Generator 指针
  // 返回:None
  void SetGenerator(Generator*);

  // 获取随机数发生器
  // 参数:None
  // 返回:Generator 指针
  Generator* GetGenerator() const;

  // 设置 Host 随机数发生器
  // 参数:Generator 指针
  // 返回:None
  void SetHostGenerator(Generator*);

  // 获取 Host 随机数发生器
  // 参数:None
  // 返回:Generator 指针
  Generator* GetHostGenerator() const;

相关内容