Red Hat OpenShift AI
O que é o Red Hat OpenShift AI?
O Red Hat® OpenShift® AI é uma plataforma de inteligência artificial (IA) e machine learning (ML) escalável e flexível que permite às empresas criar e disponibilizar aplicações de IA em escala nos ambientes de nuvem híbrida.
Desenvolvido com tecnologias open source, o OpenShift AI oferece recursos confiáveis e operacionalmente consistentes para as equipes experimentarem, disponibilizarem modelos e entregarem aplicações inovadoras.
This video can't play due to privacy settings
To change your settings, select the "Cookie Preferences" link in the footer and opt in to "Advertising Cookies."
Acelere a disponibilização de aplicações para produção com recursos de IA
Combine os recursos testados do Red Hat OpenShift AI e do Red Hat OpenShift em uma plataforma de aplicações de IA empresarial que estimula a colaboração entre equipes. Cientistas de dados, engenheiros e desenvolvedores de aplicações podem colaborar no mesmo local com consistência, segurança e escalabilidade.
O OpenShift AI viabiliza a preparação e a aquisição de dados, além do treinamento, ajuste fino e disponibilização de modelos. Ele também facilita o monitoramento e a aceleração de hardware. Com um ecossistema aberto de parceiros de software e hardware, o OpenShift AI oferece a flexibilidade necessária para atender aos seus casos de uso específicos.
A versão mais recente do Red Hat OpenShift AI oferece uma ótima escalabilidade, detecção de viés e desvio, melhor acesso a aceleradores e um registro centralizado para compartilhar, implantar e rastrear modelos. Isso ajudará a acelerar a inovação de IA/ML e a consistência operacional em escala em nuvens públicas, data centers e ambientes de edge.
Funcionalidades e benefícios
Economize tempo no gerenciamento da infraestrutura de IA
Forneça acesso sob demanda aos recursos. Assim, suas equipes podem se concentrar em explorar dados e criar apps que agreguem valor real para sua empresa. Os benefícios de economia de tempo incluem segurança nativa e integração com o ciclo de vida do operador.
Ferramentas de inteligência artificial e machine learning (IA/ML) testadas e compatíveis
A Red Hat utiliza a plataforma de aplicativos Red Hat OpenShift para monitorar, integrar, testar e oferecer suporte às ferramentas e à disponibilização de modelos de IA/ML, liberando sua equipe dessa responsabilidade. O OpenShift IA é o resultado de anos de desenvolvimento no projeto da comunidade Open Data Hub da Red Hat e em projetos open source como o Kubeflow.
Flexibilidade em toda a nuvem híbrida
Disponibilizado no OpenShift como um software autogerenciado ou um serviço de nuvem totalmente gerenciado, o Red Hat OpenShift AI oferece uma plataforma segura e flexível na qual você pode escolher onde desenvolver e implantar seus modelos: on-premise, na nuvem pública ou até mesmo na edge.
Utilize nossas práticas recomendadas
Red Hat Consulting oferece serviços que permitem instalar, configurar e utilizar todo o potencial do Red Hat OpenShift AI.
A Red Hat Consulting oferece suporte e orientação tanto para uma experiência piloto com o OpenShift AI quanto para a criação da sua base para o MLOps.
Red Hat Enterprise Linux AI
O Red Hat® Enterprise Linux® AI é uma plataforma de modelo base usada para desenvolver, testar e executar modelos de linguagem de larga escala (LLMs) da família Granite para aplicações empresariais.
Parcerias
Amplie os benefícios da plataforma Red Hat OpenShift AI com outros serviços e soluções integradas.
NVIDIA e a Red Hat oferecem aos clientes uma plataforma escalável que impulsiona diversos casos de uso de IA com flexibilidade incomparável.
Intel® e a Red Hat ajudam as organizações a estimular a adoção da IA e a operacionalizar os modelos de inteligência artificial e machine learning.
IBM e a Red Hat oferecem inovação open source para acelerar o desenvolvimento de IA, inclusive utilizando o IBM watsonx.aiTM, um estúdio de IA empresarial para desenvolvedores.
O Starburst Enterprise e a Red Hat oferecem insights mais precisos e rápidos por meio de uma análise de dados veloz em várias plataformas de dados dispersas e distribuídas.
Amplie seus recursos de IA com o IBM watsonx.ai
O Red Hat OpenShift AI oferece a base open source para os recursos de IA generativa do IBM watson.ai.
Colaboração por meio de Jupyter notebooks como serviço
Disponibilize imagens de cluster pré-desenvolvidas e personalizadas para seus cientistas de dados utilizarem ao criar modelos com Jupyter notebooks. O Red Hat OpenShift AI monitora as alterações no Jupyter, no TensorFlow, no PyTorch e em outras tecnologias de IA open source.
Disponibilize modelos em escala com o Red Hat OpenShift AI
Os modelos podem ser usados para a integração com aplicações inteligentes on-premises, na nuvem pública ou na edge. Eles podem ser recriados, reimplantados e monitorados com base nas alterações feitas no notebook de origem.
Padrão da solução
Aplicações de IA com a Red Hat e o NVIDIA AI Enterprise
Crie uma aplicação com RAG
O Red Hat OpenShift AI é uma plataforma para criar projetos de ciência de dados e disponibilizar aplicações com IA. Você pode integrar todas as ferramentas para dar suporte à Geração Aumentada de Recuperação (RAG), um método para receber respostas da IA a partir dos seus próprios documentos de referência. Quando você conecta o OpenShift AI ao NVIDIA AI Enterprise, é possível testar large language models (LLMs) para encontrar o melhor modelo para sua aplicação.
Crie um pipeline de documentos
Para usar a RAG, primeiro você precisa ingerir seus documentos em um banco de dados vetorial. Na nossa app de exemplo, inserimos um conjunto de documentos da solução em um banco de dados do Redis. Como esses documentos mudam com frequência, criamos um pipeline para esse processo que executaremos periodicamente. Dessa forma, sempre teremos as versões mais recentes dos documentos.
Confira o catálogo de LLM
O NVIDIA AI Enterprise oferece um acesso a um catálogo de diferentes LLMs para que você tenha opções diversas e selecione o modelo com os melhores resultados. Os modelos são hospedados no catálogo da API da NVIDIA. Depois de configurar um token de API, é possível implantar um modelo usando o NVIDIA NIM que disponibiliza a plataforma diretamente a partir do OpenShift AI.
Como escolher o modelo ideal
Conforme você testa LLMs diferentes, seus usuários podem avaliar cada resposta gerada. Você pode configurar um dashboard de monitoramento do Grafana para comparar as avaliações e o tempo de resposta e latência de cada modelo. Depois, use esses dados para escolher o melhor LLM para a produção.
Leitura recomendada
Vídeo
Demonstração do Red Hat OpenShift AI
Ebook
Principais considerações para criar uma base para inteligência artificial generativa
Conteúdo de analistas
Relatório da Omdia: Como criar uma base operacional robusta para IA
Checklist
Cinco maneiras de implementar o MLOps com sucesso
Como testar o Red Hat OpenShift AI
Sandbox do desenvolvedor
Para desenvolvedores e cientistas de dados que querem testar a criação de aplicações com IA em um ambiente flexível e pré-configurado.
Teste de 60 dias
Quando sua organização estiver pronta para avaliar todos os recursos do OpenShift AI, experimente-os com um teste de solução de 60 dias. É necessário ter um cluster do Red Hat OpenShift.
