跳到正文
热点事件持续更新

ttok 1.0 发布,默认改为 GPT-5/GPT-6 tokenizer

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Simon Willison 发布 ttok 1.0,修复了默认使用 GPT-4 tokenizer 的问题,改为 GPT-5/GPT-6 tokenizer。 此前版本升级后仍默认使用 GPT-4 tokenizer,导致计数结果与 GPT-5、GPT-6 系列不一致。Willison 通过 William Liu 的实验数据发现,GPT-5.5、GPT-5.6(Sol/Terra/Luna)及 GPT-6(Astra/Sol/Luna)均使用 44,794 个 token 的相同词表,在 31 组测试用例中计数完全一致。GPT-6 未引入任何输入计数变化。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. Simon Willison
    ttok 1.0 发布:默认改用 GPT-5/GPT-6 tokenizer,GPT-6 与 GPT-5 家族共用同一词表

    Simon Willison 发布 ttok 1.0,修复了升级为新版本后默认使用 GPT-4 tokenizer 而非 GPT-5/GPT-6 的问题。他通过 William Liu 的实验数据发现,GPT-5.5、GPT-5.6(Sol/Terra/Luna)及 GPT-6(Astra/Sol/Luna)均使用 44,794 个 token 的相同词表,GPT-6 未引入任何输入计数变化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。