首页 > 人工智能 >程序员自制开源 AI 评分工具,衡量大模型“愚蠢程度”

程序员自制开源 AI 评分工具,衡量大模型“愚蠢程度”

来源:ithome 2025-09-18 12:32:56

xiayx 9月18日消息,程序员 ionutvi 今天发布了名为 AI Benchmark Tool 的 AI 评分工具,可衡量各大 AI 模型的“愚蠢程度”,帮助代码工作者选择最准确性最佳、更具性价比的 AI 工具。

程序员自制开源 AI 评分工具,衡量大模型“愚蠢程度”

ionutvi 表示,他在使用 ChatGPT、Grok、Claude 等 AI 大模型时经常发现,有时候这些模型第一天工作正常,但第二天就会“降智”,做相同的任务时胡乱回答,有时候干脆拒绝回答相同问题,很多人认为这只是自己的问题,但这实际上官方有意降低了模型的性能,毕竟 Anthropic 官方就承认过这个问题。

因此他制作了这款 AI 评分工具,它可以自动在多款大模型运行 140 项编程、调试和优化任务,从准确性、拒绝回答率、回答时间、稳定性等方面衡量 AI 模型的“愚蠢程度”,并根据评分自动排名。

并且这名开发者还结合了各家的 AI 模型的价格综合评比,让用户知道每款模型的使用成本,有的 AI 模型看起来很便宜,但可能需要迭代 10 次才能得到能用的答案;而有的模型虽然价格比较高,但只要迭代两三次就能得到能用的版本,这种情况下稍贵的那款模型性价比就更高。

xiayx附该工具开源链接如下:

https://github-com.translate.goog/StudioPlatforms/aistupidmeter-api?_x_tr_sl=fr&_x_tr_tl=ro&_x_tr_hl=en&_x_tr_pto=wapp

侠游戏发布此文仅为了传递信息,不代表侠游戏网站认同其观点或证实其描述

热游推荐

更多
湘ICP备14008430号-1 湘公网安备 43070302000280号
All Rights Reserved
本站为非盈利网站,不接受任何广告。本站所有软件,都由网友
上传,如有侵犯你的版权,请发邮件给xiayx666@163.com
抵制不良色情、反动、暴力游戏。注意自我保护,谨防受骗上当。
适度游戏益脑,沉迷游戏伤身。合理安排时间,享受健康生活。