趋近智
与预训练 (pre-training)大型语言模型交互涉及寻找LLM服务、使用网页界面以及进行基本的API调用。您将这些方法结合起来,执行一个直接的文本生成任务。本练习旨在让您亲自动手,向LLM发送指令并观察其响应。
我们的目标很明确:要求LLM写一段简短的段落,描述阳光明媚的海滩日。这项常见任务能让您专注于交互过程本身,而无需特定背景知识。
您可以根据本章前面所学内容,使用网页界面或基础API调用来执行此任务。
Write a short paragraph describing a sunny day at the beach.
请注意,此提示词是一个直接指令。它明确了所需内容(“阳光明媚的海滩日”)并暗示了长度(“简短段落”)。清晰的指令通常能带来更好的结果。如果您选择API方式,您将需要API端点URL和您的API密钥,正如“查找和选择LLM服务”和“LLM API使用入门”中所述。
准备请求: 您将发送一个HTTP POST请求。从命令行执行此操作的常用方法是使用curl。结构示例如下(请记得替换占位符):
# 将 YOUR_API_ENDPOINT 替换为服务提供的实际URL
# 将 YOUR_API_KEY 替换为您的唯一密钥
curl YOUR_API_ENDPOINT \
-X POST \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"prompt": "Write a short paragraph describing a sunny day at the beach.",
"max_tokens": 100
}'
# 请查阅任何LLM提供商的文档以获取其具体的API规范。
# E.g. https://platform.openai.com/docs/api-reference/introduction
理解组成部分:
YOUR_API_ENDPOINT:LLM服务监听请求的网络地址。-X POST:指定这是一个POST请求,用于发送数据。-H "Authorization: Bearer YOUR_API_KEY":用于认证的请求头。您的API密钥告诉服务谁在发起请求。-H "Content-Type: application/json":此请求头告知服务器您发送的数据(-d)是JSON格式。-d '{...}':数据负载。它是一个JSON对象,包含:
"prompt":您给LLM的指令。"max_tokens"(示例参数 (parameter)):许多API允许通过参数控制输出。max_tokens通常限制响应的长度。我们在此将其设置为100作为示例;具体的参数名称和功能可能因服务而异。执行请求: 在您的终端中运行此命令。
解读响应: 服务器将返回一个JSON响应。正如您在“解读LLM响应”中所学,您需要查看此JSON结构内部以找到生成的文本。它可能嵌套在text、choices或generations之类的键下。
JSON响应结构示例:
json { "id": "cmpl-xxxxxxxxxxxx", "object": "text_completion", "created": 1678886400, "model": "some-model-name-v1", "choices": [ { "text": "\nThe sun beamed down, warming the soft golden sand underfoot. Gentle waves lapped at the shore, creating a soothing rhythm, while children's laughter echoed faintly in the distance. A light, salty breeze rustled through the nearby palm trees, offering a perfect escape.", "index": 0, "logprobs": null, "finish_reason": "length" } ] }
在此示例中,生成的段落位于choices[0].text内部。
无论您使用哪种方法,请查看结果:
现在,请尝试:
编写提示词、观察输出并根据结果改进提示词的这一过程是有效使用LLM的核心。
您现在已成功使用预训练 (pre-training)LLM完成了一个基础文本生成任务!这种动手实践的经验为处理更复杂的交互和应用提供了初步能力,这些将在后续学习中进一步讨论。
这部分内容有帮助吗?
© 2026 ApX Machine Learning用心打造