一、引言
对于算法工程师来说，语言从来都不是关键，关键是快速学习以及解决问题的能力。大学的时候参加ACM/ICPC一直使用的是C语言，实习的时候做一个算法策略后台用的是php，毕业后做策略算法开发，因为要用spark，所以写了scala，后来用基于storm开发实时策略，用的java。至于python，从日常用hive做数据策略用python写udf，到基于tensorflow深度学习框架写python版的模型网络，再到现在实用pytorch做大模型。眼看着在语言纷争中，python的应用越来越广，开一个单独的专栏用于记录python中常用到的技巧，算是做笔记，没事翻出来看看。
本文重点介绍python中的线程调用（Thread）。
二、线程（Thread）
2.1 概述
在Python中，Thread 是 threading 模块中的一个类，用于创建线程。线程是程序执行流的最小单元，允许程序同时执行多个任务。使用 Thread 类可以创建一个新的线程来运行指定的代码。
2.2 单线程
import threading # 定义一个被线程调用的函数 def my_function(): print("线程在执行任务...") # 创建一个线程对象，target 指定线程执行的函数 thread = threading.Thread(target=my_function) # 启动线程 thread.start() print("主线程继续执行...")
在这个例子中，my_function 是被新线程调用的函数。通过 thread.start() 启动线程后，它将并发地（在支持并发执行的环境中）与主线程一起执行。注意，由于GIL（全局解释器锁）的存在，在CPython解释器中，多线程并不能实现真正的并行计算，但对于IO密集型任务，多线程仍然可以提高效率。
2.3 多线程
建立三个线程先让第1个线程和第2个线程一起运行，然后关闭第1个线程，启动第3个线程，关闭第2个线程，关闭第3个线程，代码如下：
import threading import time def thread_function(name,step): print("Thread %s: starting" % name) for i in range(step): time.sleep(1) print("Thread %s: %s" % (name, i)) print("Thread %s: finishing" % name) thread1 = threading.Thread(target=thread_function, args=("1",5)) thread2 = threading.Thread(target=thread_function, args=("2",10)) thread3 = threading.Thread(target=thread_function, args=("3",5)) thread1.start() thread2.start() thread1.join() thread3.start() thread2.join() thread3.join() print("Exiting Main Thread")
输出如下： 
2.4 大模型应用
大模型在进行流式streamer输出的时候，经常需要新启一个线程，用于一个字符一个字符的处理，像打字机一样按顺序输出每个字符。
inputs = inputs.to(model.device) streamer = TextIteratorStreamer(tokenizer=tokenizer, skip_prompt=True, timeout=60.0, skip_special_tokens=True) generation_kwargs = dict( input_ids=inputs, streamer=streamer, ) thread = Thread(target=model.generate, kwargs=generation_kwargs) thread.start() for new_text in streamer: yield new_text
- thread：将model.generate和对应参数单独启动一个线程运行
- yield：不同于return等待所有内容生成后返回，采用yield用于接收streamer中的new_text内容，每产生一个内容，采用yield返回一个
三、总结
本文对Thread用法进行阐述，分别举了一个单线程、一个多线程和一个大模型输出流式内容的范例。希望可以帮到您。
