本地LLM
在DaDesktop桌面内运行LLM，而不是将您的提示发送到外部API。模型在DaDesktop的GPU基础设施上运行，而您的提示、文件和其他数据则保留在桌面环境中。您为桌面付费，而不是为每个令牌付费。
为什么在本地运行LLM
- 保持数据私密：您的提示、文件和其他数据保留在DaDesktop环境中。
- 无按令牌成本：在DaDesktop的GPU基础设施上运行模型，无需为每个请求支付API费用。
- 选择您的模型：选择要运行的模型，并控制其配置方式。
- 运行您自己的工作负载：直接从桌面使用模型，并与其他应用程序和工具一起使用。
AI代理
运行使用本地模型完成任务并与工具协作的代理。
编码
使用本地模型进行编码辅助、开发和测试。
研究与实验
使用模型进行研究、分析，并测试不同的模型和配置。
工作原理
选择DaDesktop GPU桌面，加载您的模型，并在本地运行。GPU直通使桌面能够完全访问物理GPU以进行LLM工作负载。您可以在GPU页面上比较可用的GPU、规格和支持的配置。