DSPy
DSPy 教程
- DSPy 官方:DSPy
- 2024-7-12
理念
- 把 prompt 当做可以通过学习,自动调参的神经网络参数
- prompt 在学习过程中,自动优化,而不是手动修改调整 prompt
关键概念
LLM evaluation
大模型的输出结果如何评估?
面对开放型文档结果,如何评估大模型的输出
指标收集
DSPy 中的指标
G-Eval
- 基于大模型,生成打分标准,自动打分
优势:
FnOS
通过 docker 安装 FnOS
远程访问 fnos 后台
- 网址: <id>.fnos.net
- 用户:部署的 fnos 实例的用户名和密码
Vnc Server Screen Sharing
server 软件
x11vnc
- 直接共享已有 session
-create创建新的 session
tigervnc
- 默认创建新的 headless session
- 使用
x0vncserver命令共享已有屏幕(display)
使用方法
共享现有屏幕 session
| |
启动
Langfuse
环境变量
- LANGFUSE_PUBLIC_KEY – your project’s public key
- LANGFUSE_SECRET_KEY – your project’s secret key
- LANGFUSE_HOST (optional) – only needed for self-hosted instances; defaults to https://cloud.langfuse.com .
禁用方法
LANGFUSE_TRACING_ENABLED=false