PocketPal AI是一款专为iPhone设计的AI聊天工具,旨在提供安全且私密的对话体验。该应用通过本地运行LLM(大型语言模型),确保用户的聊天记录不会离开设备,从而保护用户的隐私和数据安全
主要功能
1)离线聊天:用户可以在没有互联网连接的情况下与AI模型进行交互,确保了聊天的保密性
2)Hugging Face集成:用户可以直接在应用内搜索GGUF模型,并下载或书签自己喜欢的模型
3)数据安全:所有对话都在本地处理,数据不会离开设备,提供了高度的安全性和隐私保护
使用方法
1)下载并安装应用:从App Store下载PocketPal AI并安装到设备上

2)打开app下载模型:连接到互联网下载所需的模型(GGUF格式),例如从Hugging Face(有很多小模型<deepseek r1、gemma、llama、phi 等>可以提供下载,但需要梯子:)


3)设置模型:点击顶部功能按钮,点击左侧的settings进行设置模型各种参数和系统,尽量将context Size 定义为:8000(输出内容长度)。

4)离线聊天:设置完成后,选择下载的模型,即可在没有互联网连接的情况下使用应用进行聊天




这样一款私有化个人AI就配置完成,后续也可以定义各种快捷方式进行使用。另外,私有化离线AI模型在本地运行,用户数据无需上传到云端,降低了数据泄露和隐私风险。
提示:小模型由于训练数据和模型大小的限制,实际效果离更高参数的大模型相差太远。
没有回复内容