ChatGPT 大杂烩
很多内容来自一个项目 awesome-chatgpt 不过这里也有一些里面没有的东西。
产品
目前成熟的集成到现有产品的软件和服务:
- Bing. 需要访问 http://bing.com/new ,搭配插件防止重定向到域名 cn 下。具体操作参考:cn.bing 跳转到 www.bing 方法一例
- Craft Apple 生态下的一款笔记软件。
- Notion 全平台笔记软件。
- Cubox 个人碎片知识库,新版本增加的 AI 助手帮助用户对内容进行总结、归纳、撰写阅读笔记。
注意:
使用相关的产品都有隐私泄漏的风险,请注意⚠️。以下会有一些建议:
对于使用者来说,所有让你输入自己API Key的App和网站都会有盗用风险,几点 OpenAI API Key的安全建议:
- 每个App、网站生成一个新的API Key,并记录下来
- 注意查看OpenAI上API Keys的Last Used时间以及用量
- 及时删除不再使用的ApiKey
对于做公共免费服务的开发者,补充一点就是小心被恶意内容注入攻击,一旦prompt里有违反openai的内容策略,会被直接封账号。几点防范方法:
- prompt前后加一些反注入的prompt,这个防范效果有待验证
- 正式请求前先做一次语义识别,如果识别出恶意内容直接不请求返回
openai已经有了详细的防范策略:
1.免费的审核接口:https://platform.openai.com/docs/guides/moderation/overview
2.安全最佳实践:https://platform.openai.com/docs/guides/safety-best-practices
插件类
Chrome 双语沉浸式翻译插件,强烈推荐,支持多个ApiKey,支持多种翻译渠道,甚至自建 deepl,[doge]。
通过浏览器扩展程序在搜索引擎中增强ChatGPT的功能,此插件可以设置只有搜索结果以 “ ?” 结尾时才会触发,减少不必要的请求。
Obsidian 插件:
TEXT GENERATOR 全平台
在设备 ( macOS & iOS & iPadOS)本地运行的 OpenAI 的 Whisper 模型,支持100种语言的语音转文本的免费 App
ChatHub is an all-in-one chatbot client. Install from Chrome Web Store.
Chrome 插件,可以同时和 ChatGPT 、Bing 聊天。
使用 ChatGPT API 生成 Google 搜索结果或 YouTube 视频的摘要,同时支持 Yahoo! JAPAN ニュース、PubMed、PMC、NewsPicks、Github、Nikkei、Bing、Google Patents。该扩展还支持 ChatGPT Webapp 的 API,无需配置即可使用。
在任何网页中打开侧边栏,询问 ChatGPT 关于页面内容的任何事情,如解释、翻译、概括或重写。你可以自定义 prompts 以便更轻松地使用。该扩展还支持 ChatGPT Webapp 的 API,无需配置即可使用。
快捷指令(macOS & iOS & iPadOS)-
Siri Pro 快捷指令,随时唤起文字和语音两种输入方式,快速响应,支持多次问答,支持预设调教。
通过 Siri 启动「快捷指令」连接 ChatGPT API,让 Siri 变身 AI 聊天助手。你可以直接和 Siri 说出你的问题,Siri 会回答你。
Logseq 插件 Logseq Plugin GPT3 OpenAI
在 Logseq 中使用 ChatGPT 以及其他 AI 模型的插件。
Popclip 扩展
将所选文本发送到 ChatGPT 并将回复粘贴在后面。
ChatGPT Proofreader extension for Popclip
通过 ChatGPT API 对选中文本进行校对和润色,并将修改后的文本粘贴在后面。
ChatGPT Grammar Check PopClip Extension
和 ChatGPT Proofreader extension 类似的扩展,提供可下载的安装包。
Drafts (macOS & iOS & iPadOS) Actions
[ChatGPT Conversation Drafts Directory](https://directory.getdrafts.com/a/2HJ) 在 Drafts 笔记中与 ChatGPT 进行对话,新的回复将附加在末尾。支持定义和修改 system, assistant, user 角色的消息块。
使用键盘快捷方式选择并复制文本以向 ChatGPT 提问。下载链接。
IntelliJ Plugin CodeGPT
支持自定义 Prompt ,预制查找bug,写测试类,重构等。
应用
基于 ChatGPT API 的 PDF 内容分析工具。上传 PDF 文件后,可以对它提问任何关于这份 PDF 的问题,适合快速提取各种 paper 论文的摘要,支持中文输出。
ChatBox 是一个 OpenAI API 的跨平台桌面客户端,也是一个 prompt 调试和管理工具。
一个轻量的 ChatGPT Web UI,可设定 URL 作为讨论的上下文。
一个开源的 ChatGPT Web UI,具有 TTS 等附加功能。源码: cogentapps/chat-with-gpt
MacOS 原生的 ChatGPT API 客户端应用。
基于 ChatGPT API 的翻译应用,支持 PWA。源码: LanceMoe/openai-translator
一键总结含字幕的哔哩哔哩视频内容。源码: JimmyLv/BiliGPT
使你可以与 PDF 文件对话的应用,适合论文阅读和研究等学习需求。源码: ResearchGPT
作者和其他推友关于这个应用实现细节的技术讨论: @mukul0x, @goldengrape
通过 GPT3 过滤广告通知和垃圾消息的安卓应用。
ChatGPT Translator 是一个基于 ChatGPT 和 Electron 的开源、跨平台桌面翻译软件。
利用GPT-3.5翻译本地字幕文件或者B站/油管字幕。源码 AI Subtitle
开源项目
用于制作双语 epub 电子书的 Python 脚本。原推: @yihong0618
一个用 ChatGPT API 生成 Git 提交消息的命令行工具。
CLI,使用阶段性差异和可选信息来创建常规提交。
通过小米音响的小爱同学与 ChatGPT 对话。
一个利用了 AI 技术的智能生词本工具,可以帮你快速构建起自己的生词库,学习起来事半功倍。
一个 Commitizen 适配器与命令行工具使用 OpenAI API 生成 Git 约定式提交格式提交消息。 文档/OpenAI
在命令行使用 OpenAI API 翻译 JSON 格式的本地化文件。
通过命令行与 ChatGPT API 进行交互式会话,支持通过文件输入上下文。
这个cli工具可以让你方便的在命令行中使用chatGPT。你可以和他聊天支持上下文,也可以让他帮你回答单个问题。也可以帮你翻译文本。并且支持markdown在终端中的渲染。
对文本文件进行翻译的 Python 脚本。同时提供双语翻译、多线程和自动处理过高的请求频率。
支持 Markdown 的 ChatGPT CLI 工具,使用 OpenAI 官方 API。提供多个命令实现官方 web 客户端近似的功能以方便使用,会话以 JSON 格式保存到本地。
whisper的模型搞了离线CPP版的。可以做到实时语音识别,效果非常好。
微软的visual-chatgpt,可以在聊天过程中发送和接收图像
对应网页版产品:https://chatglm.cn/login
清华大学开源产品。ChatGLM-6B是一个基于通用语言模型(GLM)框架的开放式双语语言模型,拥有62亿个参数。通过量化技术,用户可以在消费级显卡上进行本地部署(在INT4量化级别只需要6GB的GPU内存)。ChatGLM-6B使用了与ChatGPT类似的技术,为中文QA和对话进行了优化。该模型针对大约1T的中文和英文语料库进行了训练,并辅以监督下的微调、反馈引导和对人类反馈的强化学习。仅凭62亿个参数,该模型就能生成符合人类偏好的答案。
https://github.com/ggerganov/llama.cpp LLAMA.cpp
旨在在消费级的电脑上运行大型 GPT 模型, 该项目是为了运行 Facebook最近泄漏的模型 llama, 需要的空间略大,最好要32G内存,至少 250G硬盘。
https://github.com/antimatter15/alpaca.cpp 上面代码的一个修改版本
这将LLaMA基础模型与斯坦福大学Alpaca的开放性复制相结合,对基础模型进行微调以服从指令(类似于用于训练ChatGPT的RLHF),并对llama.cpp进行了一系列修改以添加聊天界面。
合集
- 支持 OpenAI ChatGPT API 的优秀软件-Telegram、Bob、Alfred、Popclip、Siri 和 OpenCat
- 使用 Cloudflare Workers 解决 OpenAI 和 ChatGPT 的 API 无法访问的问题
- 借助OpenAI的embedding模型和自己的数据库,搭建搜索服务, 开源项目:gpt_index
- 《从 ChatGPT 看 AI 未来的 7 种场景可能性》 ,PodCast音频版本
- CS224N/Ling284是斯坦福大学的一门课程,教授自然语言处理(NLP)的深度学习方法,这是GPT相关的课件 Lecture 11: Prompting, Instruction Finetuning, and RLHF