site stats
有网友用 2 台 MacBook Pro 128GB 分布式运行了刚发布的 Llama 3.1 405B。大家关心的每秒多少 Token 没有公布,但看起来比较慢。 使用的 Exo Labs 进行分布式机器学习推理 使用 Apple 开源的机器学习库 MLX 作为推理引擎 使用 TinyChat UI 界面
sign_in_with_google sign_in_with_google

1825 位用户此时在线

24小时点击排行 Top 10:
  1. 本站自动实时分享网络热点
  2. 24小时实时更新
  3. 所有言论不代表本站态度
  4. 欢迎对信息踊跃评论评分
  5. 评分越高,信息越新,排列越靠前