譯者 | 李睿
審校 | 重樓
LangChAIn是當今最熱門的開發平臺之一，用于創建使用生成式人工智能的應用程序，但它只適用于Python/ target=_blank class=infotextkey>Python和JAVAScript。對于想要使用LangChain的R程序員，該怎么辦?
幸運的是，可以使用非常基本的Python代碼在LangChain中做很多有用的事情。而且，多虧有了reticulate R包，R和RStudio用戶可以在他們熟悉的環境中編寫和運行Python，包括在Python和R之間來回傳遞對象和數據。
在這個LangChain教程中，將展示如何使用Python和R來訪問LangChain和OpenAI API。這將允許使用大型語言模型(LLM)來查詢ggplot2的300頁PDF文檔。第一個示例查詢：“如何在圖形的x軸上旋轉文本?”
以下是介紹這個過程的每個步驟：
（1）如果還沒有運行，需要將系統設置為運行Python和reticulate。
（2）將ggplot2 PDF文檔文件導入為純文本的LangChain對象。
（3）將文本分割成可以被大型語言模型讀取的更小的部分，因為這些模型對一次讀取的數量有限制。而長達300頁的文本將超出OpenAI公司的限制。
（4）使用LLM為每個文本塊創建“嵌入”，并將它們全部保存在數據庫中。嵌入是一串數字，表示多維空間中文本的語義。
（5）為用戶的問題創建一個嵌入，然后將問題嵌入與文本中的所有現有問題進行比較。查找并檢索最相關的文本片段。
（6）只將那些相關的文本部分輸入到像GPT-3.5這樣的LLM中，并要求它生成答案。
如果用戶要遵循示例并使用OpenAI API，則需要一個API密鑰。可以在platform.openai.com注冊。如果愿意使用另一個模型，LangChain有組件可以為許多LLM構建鏈，而不僅僅是OpenAI公司的組件，因此用戶不會被某個LLM提供商鎖定。
LangChain擁有可以輕松處理這些步驟的組件，特別是如果企業對其默認值感到滿意的話。這就是為什么它變得如此受歡迎的原因。
以下開始逐步實施：
步驟1：設置系統在RStudio中運行Python
如果用戶已經運行了Python和reticulate，則可以跳到下一步。否則，確保在系統上有最新版本的Python。有很多方法可以安裝Python，但只需要從python.org網站中下載就可以。然后，按照通常的方式使用install.packages("reticulate")安裝reticulate R包。
如果已經安裝了Python，但是reticulate找不到它，可以使用命令use_Python（“/path/to/your/Python”）。
library(reticulate)
virtualenv_create(envname = "langchain_env", packages = c( "langchain", "openai", "pypdf", "bs4", "python-dotenv", "chromadb", "TikToken")) # Only do this once
注意，用戶可以隨意命名其環境。如果需要在創建環境后安裝軟件包，使用py_install()，如下所示：
py_install(packages = c( "langchain", "openai", "pypdf", "bs4", "python-dotenv", "chromadb", "tiktoken"), envname = "langchain_env")
與在R中一樣，用戶應該只需要安裝一次軟件包，而不是每次需要使用環境時都安裝軟件包。另外，不要忘記激活虛擬環境：
use_virtualenv("langchain_env")
每次回到項目時，在開始運行Python代碼之前，都要這樣做。
用戶可以測試其Python環境是否正在使用
reticulate：：py_run_string('
print("Hello, world!")
')
如果用戶喜歡的話，可以采用Python變量設置OpenAI API密鑰。因為已經在一個R環境變量中有了它，通常使用R來設置OpenAI API密鑰。用戶可以使用reticulate的r_to_py()函數將任何R變量保存為python友好的格式，包括環境變量：
api_key_for_py <- r_to_py(Sys.getenv("OPENAI_API_KEY"))
它接受OPENAI_API_KEY環境變量，確保它是Python友好的，并將其存儲在一個新變量中：api_key_for_py(同樣，可以采用任何名稱)。
最后，準備好編寫代碼!
步驟2：下載并導入PDF文件
將在主項目目錄下創建一個新的docs子目錄，并使用R在那里下載文件。
# Create the directory if it doesn't exist
if(!(dir.exists("docs"))) {
dir.create("docs")
}
# Download the file
download.file("https：//cran.r-project.org/web/packages/ggplot2/ggplot2.pdf", destfile = "docs/ggplot2.pdf", mode = "wb")
接下來是Python代碼，將該文件導入為包含內容和元數據的LangChain文檔對象。將為此創建一個名為prep_docs.py的新Python腳本文件。可以像上面那樣使用py_run_string()函數在R腳本中繼續運行Python代碼。然而，如果用戶正在處理一個更大的任務，那么就不太理想，因為將會在諸如代碼完成之類的事項上面臨失敗。
Python新手的關鍵點：不要將腳本文件的名稱與將要加載的Python模塊的名稱相同!換句話說，雖然該文件不必命名為prep_docs.py，但如果要導入langchain包，就不要將其命名為langchain.py !它們會發生沖突。這在R中并不是問題。
以下是新的prep_docs.py文件的第一部分：
If running from RStudio, remember to first run in R：
# library(reticulate)
# use_virtualenv("the_virtual_environment_you_set_up")
# api_key_py <- r_to_py(Sys.getenv("OPENAI_API_KEY"))
from langchain.document_loaders import PyPDFLoader
my_loader = PyPDFLoader('docs/ggplot2.pdf')
# print(type (my_loader))
all_pages = my_loader.load()
# print(type(all_pages))
print( len(all_pages) )
這段代碼首先導入PDF文檔加載器PyPDFLoader。接下來，它創建PDF加載器類的一個實例。然后，它運行加載器及其load方法，將結果存儲在一個名為all_pages的變量中。該對象是一個Python列表。
在這里包含了一些注釋行，如果想看到它們，它們將打印對象類型。最后一行打印列表的長度，在本例中是304。
可以點擊RStudio中的source按鈕來運行一個完整的Python腳本。或者，突出顯示一些代碼行并只運行它們，就像使用R腳本一樣。Python代碼在運行時看起來與R代碼略有不同，因為它在R控制臺中打開一個Python交互式REPL會話。用戶將被指示輸入exit或quit(沒有括號)以退出并在完成后返回常規R控制臺。
用戶可以使用reticulate的py對象在R中檢查all_pages Python對象。下面的R代碼將Python all_pages對象存儲到一個名為all_pages_in_r的R變量中(用戶可以隨意調用它)。然后，可以像處理任何其他R對象一樣處理該對象。在本例中，它是一個列表。
all_pages_in_r <- py$all_pages
# Examples：
all_pages_in_r[[1]]$metadata # See metadata in the first item
nchar(all_pages_in_r[[100]]$page_content) # Count number of characters in the 100th item
LangChain集成
如果用戶還沒有最喜歡的將PDF轉換為可讀文本的方法，那么LangChain的PyPDFLoader可以方便地用于其他非人工智能項目。而且，LangChain還有100多種其他文件加載器，包括PowerPoint、word、網頁、YouTube、epub、Evernote和Notion等格式。可以在LangChain集成中心中看到一些文件格式和集成文檔加載器。
步驟3：將文檔拆分為多個部分
LangChain有幾個轉換器可以將文檔分解成塊，包括按字符、標記和標記頭進行拆分。一個推薦的默認值是RecursiveCharacterTextSplitter，它將“遞歸地嘗試按不同的字符進行拆分，以找到一個有效的字符”。另一個流行的選項是CharacterTextSplitter，它的設計目的是讓用戶設置其參數。
用戶可以設置該拆分器的最大文本塊大小，是按字符計數還是按LLM令牌計數(令牌通常是1到4個字符)，以及文本塊應該重疊多少。在開始使用LangChain之前，從未考慮過文本塊重疊的必要性，但它是有意義的，除非用戶可以通過邏輯塊(如用標題分隔的章節或節)來分隔。否則，文本可能會在句子中間被拆分，一個重要的信息可能會被分成兩個部分，其中任何一個都沒有明確的完整含義。
用戶還可以選擇希望拆分器在分割文本時優先考慮哪些分隔符。CharacterTextSplitter的默認值是首先拆分為兩個新行(nn)，然后再拆分一個新行、一個空格，最后完全不使用分隔符。
下面的代碼通過使用Python內部的reticulate的R對象，從R api_key_for_py變量導入OpenAI API密鑰。它還加載openai Python包和LangChain的遞歸字符分割器，創建一個RecursiveCharacterTextSplitter類的實例，并在all_pages塊上運行該實例的split_documents()方法。
import openai
openai.api_key = r.api_key_for_py
from langchain.text_splitter import RecursiveCharacterTextSplitter
my_doc_splitter_recursive = RecursiveCharacterTextSplitter()
my_split_docs = my_doc_splitter_recursive.split_documents(all_pages)
同樣，用戶可以用R代碼將這些結果發送給R，例如：
My_split_docs <- py$ My_split_docs
是否想知道塊中的最大字符數是多少?可以用R中的一個自定義函數來檢查這個列表：
get_characters <- function(the_chunk) {
x <- nchar(the_chunk$page_content)
return(x)
}
purrr：：map_int(my_split_docs, get_characters) |>
max()
這將生成3,985個字符，因此看起來默認的塊最大值是4,000個字符。
如果想要更小的文本塊，首先嘗試CharacterTextSplitter并人工地將chunk_size設置為小于4,000，例如
chunk_size = 1000
chunk_overlap = 150
from langchain.text_splitter import CharacterTextSplitter
c_splitter = CharacterTextSplitter(chunk_size=chunk_size, chunk_overlap=chunk_overlap, separator=" ")
c_split_docs = c_splitter.split_documents(all_pages)
print(len(c_split_docs)) # To see in Python how many chunks there are now
可以在R和Python中檢查結果：
c_split_docs <- py$c_split_docs
length(c_split_docs)
該代碼生成695個塊，最大為1000。
成本是多少?
在進一步討論之前，如果想知道為所有這些塊生成嵌入是否會非常昂貴。將從默認的306項遞歸拆分開始。可以計算R對象上這些塊中的字符總數：
purrr：：map_int(my_split_docs, get_characters) |>
sum()
答案是513506。保守地估計每個令牌有兩個字符，其結果大約是20萬個。
如果想更準確，TheOpenAIR R包有一個count_tokens()函數(確保安裝該函數和purrr以使用下面的R代碼)：
purrr：：map_int(my_split_docs， ~ TheOpenAIR：：count_tokens(.x$page_content)) |>
sum ()
該代碼顯示了126,343個令牌。
那要花費多少成本?OpenAI用于生成嵌入的模型是ada-2。現在ada-2的1000個令牌價格為0.0001美元，126,000代幣的價格約為1.3美分。這些費用在預算之內。
步驟4：生成嵌入
LangChain有預制的組件，可以從文本塊創建嵌入并存儲它們。對于存儲，將使用LangChain中最簡單的選項之一：Chroma，這是一個可以在本地使用的開源嵌入數據庫。
首先，將用R代碼為docs目錄創建一個子目錄，因為建議在Chroma目錄中除了數據庫之外什么都不要。這是R代碼：
if(!dir.exists("docs/chroma_db")) {
dir.create("docs/chromaba_db")
}
下面是使用LangChain的OpenAIEmbeddings生成嵌入的一些Python代碼。這是目前默認為OpenAI的ada-2模型，因此不需要指定它。LangChain通過其嵌入類支持許多其他LLM，包括Hugging Face Hub、Cohere、Llama cpp和Spacy。
下面的Python代碼稍微修改了一下DeepLearning.AI的LangChain與其數據聊天在線教程。
from langchain.embeddings.openai import OpenAIEmbeddings
embed_object = OpenAIEmbeddings()
from langchain.vectorstores import Chroma
chroma_store_directory = "docs/chroma_db"
vectordb = Chroma.from_documents(
documents=my_split_docs,
embedding=embed_object,
persist_directory=chroma_store_directory
)
# Check how many embeddings were created
print(vectordb._collection.count())
注意_collection.count()中的下劃線!
可以看到有306個嵌入，與ggplot2文本塊的數量相同。
Python新手的另一個注意事項：縮進在Python中很重要。確保非縮進行之前沒有空格，并且縮進行都使用相同數量的縮進空格。
在這個系統上，這段代碼似乎將數據保存到了磁盤上。但是，教程指出用戶應該運行以下Python代碼來保存嵌入以供以后使用。這樣做的原因是不想在文檔更改之前重新生成嵌入。
vectordb.persist()
現在，已經完成了為查詢準備文檔的工作。將創建qanda.py這個新文件，來使用創建的矢量嵌入。
步驟5：嵌入用戶查詢和查找文檔塊
現在是時候提出一個問題，為該問題生成嵌入，并根據塊的嵌入檢索與該問題最相關的文檔。
由于vectordb對象的內置方法，LangChain提供了在一行代碼中完成所有這些工作的幾種方法。它的similarity_search()方法直接計算向量相似度，并返回最相似的文本塊。
不過，還有其他幾種方法可以做到這一點，包括max_marginal_relevance e_search()。這背后的想法是，不一定想要三個幾乎相同的文本塊。如果文本中有一點多樣性，以獲得額外的有用信息，也許最終會得到一個更豐富的回答。因此，max_marginal_relevance e_search()檢索的相關文本比實際計劃傳遞給LLM以獲取答案的文本多一些(用戶決定多出多少)。然后，結合一定程度的多樣性，它選擇最后的文本片段。
用戶可以指定希望similarity_search（）返回多少相關文本塊及其k參數。對于max_marginal_relevance（），用戶指定最初應該使用fetch_k檢索多少塊，以及希望LLM查找其使用k的答案的最終文本片段。
如果文檔沒有更改，不想運行文檔準備文件，將首先在新的qanda.py文件中加載必要的包和環境變量(即OpenAI API密鑰)，就像在使用doc_prepare .py之前所做的那樣。然后，將加載chromadb矢量數據庫：
# If running from RStudio, remember to first run in R：
# library(reticulate)
# use_virtualenv("the_virtual_environment_you_set_up")
# api_key_py <- r_to_py(Sys.getenv("OPENAI_API_KEY"))
import openai
openai.api_key = r.api_key_for_py
from langchain.embeddings.openai import OpenAIEmbeddings
embed_object = OpenAIEmbeddings()
from langchain.vectorstores import Chroma
chroma_store_directory = "docs/chroma_db"
vectordb = Chroma(persist_directory=chroma_store_directory,
embedding_functinotallow=embed_object)
接下來，將硬編碼一個問題并檢索相關文檔。需要注意，可以用一行代碼檢索文檔：
my_question = "How do you rotate text on the x-axis of a graph?"
# For straightforward similarity searching
sim_docs = vectordb.similarity_search(my_question)
# For maximum marginal relevance search retrieving 5 possible chunks and choosing 3 finalists：
mm_docs = vectordb.max_marginal_relevance_search(my_question, k = 3, fetch_k = 5)
如果想查看檢索到的文檔片段，可以在Python中打印它們，如下所示：
for doc in mm_docs：
print(doc.page_content)
for doc in sim_docs：
print(doc.page_content)
注意縮進是for循環的一部分。
還可以使用以下命令查看它們的元數據：
for doc in mm_docs：
print(doc.metadata)
for docs in sim_docs：
print(docs.metadata)
與其他對象一樣，也可以在R中查看這些對象：
mm_relevant <- py$mm_docs
sim_relevant <- py$sim_docs
不確定為什么當請求三個文檔時，模型有時會返回四個文檔，但這應該不是問題，除非LLM在遍歷文本以生成響應時有太多的令牌。
步驟6：生成答案
現在是時候讓GPT-3.5這樣的LLM根據相關文檔生成對用戶問題的書面回復了。可以使用LangChain的RetrievalQA功能來實現這一點。
建議首先嘗試LangChain的默認模板，這很容易實現，通常適用于原型制作或用戶自己使用：
# Set up the LLM you want to use, in this example OpenAI's gpt-3.5-turbo
from langchain.chat_models import ChatOpenAI
the_llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)
# Create a chain using the RetrievalQA component
from langchain.chains import RetrievalQA
qa_chain = RetrievalQA.from_chain_type(the_llm,retriever=vectordb.as_retriever())
# Run the chain on the question, and print the result
print(qa_chain.run(my_question))
LLM給出了以下回復：
To rotate text on the x-axis of a graph, you can use the `theme()` function in ggplot2. Specifically, you can use the `axis.text.x` argument to modify the Appearance of the x-axis text. Here is an example：
```R
library(ggplot2)
# Create a basic scatter plot
p <- ggplot(mtcars, aes(x = mpg, y = wt)) +
geom_point()
# Rotate x-axis text by 45 degrees
p + theme(axis.text.x = element_text(angle = 45, hjust = 1))
```
In this example, the `angle` argument is set to 45, which rotates the x-axis text by 45 degrees. The `hjust` argument is set to 1, which aligns the text to the right. You can adjust the angle and alignment values to achieve the desired rotation and alignment of the x-axis text.
看起來是正確的!
現在鏈已經設置好了，可以用一個R腳本用一個命令在其他問題上運行它：
py_run_string('
print(qa_chain.run("How can I make a bar chart where the bars are steel blue?"))
')
以下是它們的回應：
```R
library(ggplot2)
# Create a bar chart with steel blue bars
p <- ggplot(mtcars, aes(factor(cyl)))
p + geom_bar(fill = "steelblue")
```
In this example, we use the `fill` aesthetic to specify the color of the bars as "steelblue". You can adjust the color to your preference by changing the color name or using a hexadecimal color code.
這是一個比在ChatGPT 3.5中有時收到的相同問題可獲得更好的答案。有時它發回的代碼實際上并不起作用。
用戶可能還想確認答案不是從一般的ChatGPT知識庫中提取的，而是真正來自其上傳的文檔。為了找到答案，可以問一些與ggplot2完全無關的問題，這些問題不會出現在文檔中：
py_run_string('
print(qa_chain.run("What is the capital of Australia?"))
')
用戶應該這樣回復：
I don't know.
如果正在創建一個應用程序以供更廣泛的使用，那么“我不知道”可能有點簡潔。如果用戶想定制默認模板，可以查看LangChain文檔。如果用戶正在為不止自己或一個小團隊創建應用程序，那么個性化響應是有意義的。
模板調整是LangChain可能感覺過于復雜的一個領域，它可能需要多行代碼來實現對模板的小更改。然而，使用任何固執己見的框架都是有風險的，這取決于每個開發人員來決定項目的總體收益是否值得這樣的成本。雖然它非常受歡迎，但并不是每個人都是LangChain的忠實用戶。
還可以用LangChain做什么?
到目前為止，對應用程序最簡單的添加是包含更多文檔。LangChain有一個DirectoryLoader來簡化這個過程。如果用戶正在跨多個文檔進行搜索，可能希望知道哪些文檔用于生成響應。可以給RetrievalQA添加return_source_documents=True參數，如下所示：
qa_chain = RetrievalQA.from_chain_type(the_llm,retriever=vectordb.as_retriever(), return_source_documents=True)
my_result = qa_chain({"query"： my_question})
print(my_result['result'])
該代碼最初只對單個用戶在本地運行有用，但它可以成為使用Streamlit或Shiny for Python等框架的交互式Web應用程序的邏輯基礎。或者，將Python和R結合起來，將LLM的最終答案發送回R，并使用Shiny R Web框架創建一個應用程序(盡管發現同時使用Python和R部署Shiny應用程序有點復雜)。
還要注意的是，這個應用程序在技術上并不是一個“聊天機器人”，因為它不會記住用戶之前的問題。所以，不能有一個“對話”，例如“如何改變圖表標題文字的大小?”，然后是“圖例呢?”用戶需要把每個新單詞拼出來。
但是，可以向應用程序添加內存，使用LangChain的ConversationBufferMemory將其轉換為聊天機器人。
其他資源
要了解更多關于LangChain的信息，除了LangChain文檔之外，還有一個LangChain Discord服務器，其中有一個人工智能聊天機器人kapa。它可以查詢文檔。
原文標題：Generative AI with LangChain, RStudio, and just enough Python，作者：Sharon machlis
