我的 API 遇到問題，希望有人可以提供幫助。盡管添加了多線程，但性能提升遠(yuǎn)沒有達(dá)到我的預(yù)期。理想情況下，如果一個線程需要 1 秒來完成一項(xiàng)任務(wù)，那么并發(fā)運(yùn)行的 10 個線程也應(yīng)該需要大約 1 秒（這是我的理解）。然而，我的 API 響應(yīng)時間仍然很慢。

問題

我正在使用 FastAPI 以及 Playwright、MongoDB 和 ThreadPoolExecutor 等庫。目標(biāo)是對 CPU 密集型任務(wù)使用線程，對 IO 密集型任務(wù)使用異步等待。盡管如此，我的響應(yīng)時間并沒有像預(yù)期的那樣改善。

圖書自動化示例

我的項(xiàng)目的一部分涉及使用 Playwright 與 EPUB 查看器交互來自動進(jìn)行圖書查詢。以下函數(shù)使用 Playwright 打開瀏覽器、導(dǎo)航到書籍頁面并執(zhí)行搜索：

from playwright.async_api import async_playwright
import asyncio

async def search_with_playwright(search_text: str, book_id: str):
    async with async_playwright() as p:
        browser = await p.chromium.launch(headless=True)
        page = await browser.new_page()
        book_id = book_id.replace("-1", "")
        book_url = f"http://localhost:8002/book/{book_id}"
        await page.goto(book_url)
        await page.fill("#searchInput", search_text)
        await page.click("#searchButton")
        await page.wait_for_selector("#searchResults")
        search_results = await page.evaluate('''
            () => {
                let results = [];
                document.querySelectorAll("#searchResults ul li").forEach(item => {
                    let excerptElement = item.querySelector("strong:nth-of-type(1)");
                    let cfiElement = item.querySelector("strong:nth-of-type(2)");

                    if (excerptElement && cfiElement) {
                        let excerpt = excerptElement.nextSibling ? excerptElement.nextSibling.nodeValue.trim() : "";
                        let cfi = cfiElement.nextSibling ? cfiElement.nextSibling.nodeValue.trim() : "";
                        results.push({ excerpt, cfi });
                    }
                });
                return results;
            }
        ''')
        await browser.close()
        return search_results

上面的函數(shù)是異步的，以避免阻塞其他任務(wù)。然而，即使采用這種異步設(shè)置，性能仍然達(dá)不到預(yù)期。
注意：我計算過單本書打開書籍和運(yùn)行查詢所需的時間約為 0.0028s

重構(gòu)示例

我使用 run_in_executor() 來執(zhí)行 ProcessPoolExecutor 中的函數(shù)，試圖避免 GIL 并正確管理工作負(fù)載。

async def query_mongo(query: str, id: str):
    query_vector = generate_embedding(query)

    results = db[id].aggregate([
        {
            "$vectorSearch": {
                "queryVector": query_vector,
                "path": "embedding",
                "numCandidates": 2100,
                "limit": 50,
                "index": id
            }
        }
    ])

    # Helper function for processing each document
    def process_document(document):
        try:
            chunk = document["chunk"]
            chapter = document["chapter"]
            number = document["chapter_number"]
            book_id = id

            results = asyncio.run(search_with_playwright(chunk, book_id))
            return {
                "content": chunk,
                "chapter": chapter,
                "number": number,
                "results": results,
            }
        except Exception as e:
            print(f"Error processing document: {e}")
            return None

    # Using ThreadPoolExecutor for concurrency
    all_data = []
    with ThreadPoolExecutor() as executor:
        futures = {executor.submit(process_document, doc): doc for doc in results}

        for future in as_completed(futures):
            try:
                result = future.result()
                if result:  # Append result if it's not None
                    all_data.append(result)
            except Exception as e:
                print(f"Error in future processing: {e}")

    return all_data

問題

即使在這些更改之后，我的 API 仍然很慢。我缺少什么？有人在 Python 的 GIL、線程或異步設(shè)置方面遇到過類似的問題嗎？任何建議將不勝感激！

以上是為什么我的多線程 API 仍然很慢？的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！