亚马逊的云计算部门周三宣布,与人工智能初创公司Hugging Face合作,使在亚马逊定制计算芯片上运行成千上万的AI模型变得更加容易。
Hugging Face估值45亿美元,已成为AI研究人员和开发人员共享聊天机器人和其他AI软件的核心平台,得到了亚马逊、Alphabet的谷歌和Nvidia等公司的支持。开发者主要在该平台上获取和修改开源AI模型,如Meta Platforms的Llama 3。
然而,开发者在调整了开源AI模型后,通常希望将其用于实际的软件。周三,亚马逊和Hugging Face宣布合作,使开发者可以在亚马逊网络服务(AWS)的定制芯片Inferentia2上实现这一目标。
Hugging Face产品和增长负责人Jeff Boudier表示:“对我们来说,非常重要的一点是效率——确保尽可能多的人能够运行模型,并且以最具成本效益的方式运行。”
AWS希望通过此次合作吸引更多AI开发者使用其云服务来交付AI。虽然Nvidia在训练模型的市场中占据主导地位,但AWS表示,其芯片能够以较低的成本运行这些已训练的模型,即进行推理。
AWS人工智能产品负责人Matt Wood说:“你可能每月训练一次这些模型,但你每小时可能对它们进行成千上万次的推理操作。这就是Inferentia2真正发挥作用的地方。”
![SKYPE TU](https://production-app-asset.traderknows.com/images/c232bc221bef43969f4c8db686e4b03b.width-800.png?Expires=1728274851&Signature=UmKHRjPEDIc-oYPR8zofku16HOxYwh90BHNLTTUHv2TEGt13Xwb2XibTh81CDVfhWySnD-0ShihO-7Znr6a7Wx07c86d5ZKa8c~rBozedmDNwKfBuyO71Y8zLJMacRNWcCgNRhoK4kCYOULDGpii8qK8G2Rbgt1giuK3s9Mvcju25kTUOu4d4XR4ohKG409wzD~fJElXI-MPrkIpAgcQ8qJqi~y1lB~QQPFq8~qnHQ325GakqhqDgq~ipXsNxX1Cyzig17Hb3NJHhxzvptvbMjJ1viVM34nji~pHYhpPPzfZ16SbVxxpyv3OXjApBgD2e3th56xacLWjNx0zmqAtrA__&Key-Pair-Id=K3LHBTUA5A7KEY)
![公众号2](https://production-app-asset.traderknows.com/images/d558051407dd47a0bbb66f8db855faec.width-800.png?Expires=1728274851&Signature=EG9H~G5mI~seKUcVVXvzi1DSjX9DladINffTIjDT0DPF5CXQhdBkzICiadQydY9JySVARs607Sw7m1Fj92xQLotPZfnRpUxPz2NI6qvRfPOXsIlsu5gVb2Otm5lTsmDUGECZzyS7ccCVPr2ZztZ6E4TwlARFjnas0bfv2ErOrxNgaPrc-d9Awh9v-1hzeDO-cr5ekXrtPlQaqiMSns1CzPlYobdP9QnGHiQyx~oFXEqWnEk7CskmVhUIhVMy0Nv6eRKbeWm9Vg2Fuvaslwm1kQKw5Us7WKKQExHa-QWlK~kQZyAg2FCIaKqlrKp0VOPTQtr0aq0uVMhDMLtCZAsqQw__&Key-Pair-Id=K3LHBTUA5A7KEY)