Shortcuts

BaseProvider

class BaseProvider(stream=False, generation_config=GenerationConfig {})[源代码]

BaseProvider 为异步数据提供器的基类,提供了一些基本的接口

provider_handler()[源代码]

provider_handler 为异步数据提供器的主要逻辑,需要被子类重写,主要功能为异步地收集数据并放入队列 self.data

start_provider()[源代码]

start_provider 为异步数据提供器的启动函数,会在一个新的进程中启动 provider_handler 函数

get_data()[源代码]

get_data 为异步数据提供器的数据获取函数,会从队列 self.data 中获取数据

get_feedback()[源代码]

get_feedback 为异步数据提供器的反馈获取函数,会从队列 self.feedback 中获取反馈,主要指模型生成的结果

put_feedback(feedback)[源代码]

put_feedback 为异步数据提供器的反馈放入函数,会将反馈放入队列 self.feedback 中,该函数由 CoLLie 自动调用,将模型生成的结果放入该队列中