六一儿童节的时候，Richard Sutton 锐评 AI 各位女士们、先生们，大家好。 很遗憾我今天无法亲临现场，与各位进行面对面的交流讨论。但我仍然很高兴能够通过这段录制的视频，与大家分享一些关于人工智能当前与未来发展的高层次思考，尤其是 AI 与科学、数学之间关系的看法。我…
The five-step process: First, make your requirements less dumb. Your requirements are definitely dumb. It does not matter who gave them to y…
家里有个小 NAS 。里面存了一些歌。一半是用 NAS 自带的 app 听，一半是。。。SMB 共享打开听 虽然 NAS 也提供 DLNA ，一直以来找不到趁手 app ，要么收费，要么 bug 多，要么不能多端。 13 年前我也想基于 chrome.socket 做个 Chro…
以前只记得要支持 websocket 需要 nginx 改： location /ws-service-a {proxy_pass http://backend_a; proxy_http_version 1.1; proxy_set_header Upgrade $http_u…
回顾一下我发现的 AI 弱点，说不定将来对抗 skynet 有用 2023 年 我当时觉得： 不太会算术。没想到刚看到个更搞笑的人工加法智能。大概意思是，如果 pretrain 一个加法表，AI 会「懂」任意整数的加法么？ gpt4 不懂中文和字符形状——已经被多模态模型解决 对…
作为一个外行，我一直对 “AI” 的魔力感到惊奇，我一度以为神经网络一层一层传播，可以看成某种有限步骤的图灵机。AI 提醒我不要瞎类比，图灵机左移右移是离散，确定的逻辑，神经网络是 fp32 上连续的概率映射。 后来稍微深入了解了一下，认识到对于一个深度固定的 Transform…
最近 vibe 了个分布式系统，没有 master 和 arbiter，全是平等的 peer 然后这些 peer 去处理流量问题。 处理多个事情，当流量爆发，承载能力不足的时候，需要快速补足 peer 扩容是个最简单，很强烈，明确的信号，而且效果立竿见影。 当事情没那么多，流量下…
AI 现在调用都走 OpenAI-like 接口，遇到长任务多半会走 stream=true 然后 AI 能力也多半会接力返回给下游，比如浏览器 那么问题来了。下游如果连接断开，是不是就意味着服务器得把 AI 的输出接住，然后下一次请求接着吐？ 如果下一次请求不路由到这个节点和进…