# Google
fromlangchain_google_genaiimportChatGoogleGenerativeAIos.environ["GOOGLE_API_KEY"]="MyGoogleAPIKey..."model=ChatGoogleGenerativeAI(model="gemini-1.5-pro")
(2) 클라이언트를 선언할 때 API KEY를 할당
외부 LLM 모델과 소통하는 클라이언트를 선언할 때 API KEY를 할당해줄 수도 있습니다.
model 인스턴스의 invoke 메서드를 이용해 LLM과 메시지를 주고 받을 수 있습니다.
invoke 메서드는 파라미터로 list[Message] 형태의 값을 담아 보냅니다.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
fromlangchain_core.messagesimportHumanMessagefromlangchain_openaiimportChatOpenAIimportos# API 키
os.environ["OPENAI_API_KEY"]="YOUR_API_KEY"# 모델 선언
model=ChatOpenAI(model="gpt-4o-mini")# Message
messages=[]messages.append(HumanMessage(content="안녕? 내 이름은 Jongya야."))# 메시지 보내기
response=model.invoke(messages)print(response)
1
2
3
content='안녕하세요, Jongya! 만나서 반가워요. 어떻게 도와드릴까요?'additional_kwargs={'refusal': None}response_metadata={'token_usage': .... }
Stream 방식
stream 방식 출력을 위해서는 invoke 메서드 대신 stream 메서드를 사용하면 됩니다.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
fromlangchain_core.messagesimportHumanMessagefromlangchain_openaiimportChatOpenAIimportos# API 키
os.environ["OPENAI_API_KEY"]="YOUR_API_KEY"model=ChatOpenAI(model="gpt-4o-mini")response=model.stream([HumanMessage(content="애국가를 불러줘.")])forrinresponse:print(r.content,end="|")
댓글 남기기