单枪匹马挑战Transformer:彭博与RWKV的传奇故事
近日,一位名为彭博的神秘怪才引起了全球人工智能领域的高度关注。他独自一人在家,开发了一款名为RWKV的模型,旨在挑战当前主导地位的Transformer架构。彭博不仅成功吸引了OpenAI的注意,还断然拒绝了其邀请,理由是OpenAI不够开放。
彭博并非传统意义上的学术精英,他16岁考入香港大学物理专业,后在对冲基金从事量化交易,最终创业制造和销售台灯和音箱。尽管有人称他为“民科”,但RWKV的卓越表现让越来越多的人开始重视他的贡献。
RWKV的独特之处在于其架构上的创新,融合了RNN的优势,优化了Transformer的性能。该模型在Uncheatable Eval排行榜中表现出色,甚至超越了Llama2 13B。彭博坚信,现有的AI技术过于简单,并声称自己掌握了实现AGI的关键答案。
尽管面对众多质疑,彭博和他的RWKV正在逐步赢得社区的认可。RWKV的开源生态不断壮大,社区成员自发为其撰写论文,并将其引入Huggingface的transformer库。彭博的思想和主张也在被更多人接受和响应。
这场由彭博掀起的技术革命,是否会改变未来AI的发展方向?我们拭目以待。