OpenAI в партнерстве с Broadcom объявили о запуске Jalapeño, современного чипа, специально разработанного для инференса больших языковых моделей (LLMs). Эта инновационная технология направлена на улучшение производительности и эффективности AI-приложений, позволяя достичь большей масштабируемости в различных системах. Jalapeño адаптирован к требованиям современных AI-нагрузок, обеспечивая возможность организациям использовать продвинутые возможности машинного обучения без ущерба для скорости или использования ресурсов. Оптимизируя процесс инференса, этот чип готов революционизировать способ развертывания и использования AI-моделей в различных отраслях, представляя собой значительный шаг вперед в области искусственного интеллекта.
OpenAI и Broadcom представляют новый чип для инференса AI
Сотрудничество между OpenAI и Broadcom привело к созданию Jalapeño, специализированного чипа, разработанного для инференса больших языковых моделей.
3 min readТехнологии