Entrevista com Xiao Yumin, CTO da TorchV AI: Aproveitando dados não estruturados para vantagem comercial

Entrevista com Xiao Yumin, CTO da TorchV AI: Aproveitando dados não estruturados para vantagem comercial é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Xiao Yumin, CTO da TorchV AI, é um especialista em desenvolvimento técnico, especializado em RAG, pesquisa vetorial e análise de dados não estruturados.
• Xiao discute a orientação da empresa para soluções B2B, a exploração de dados não estruturados, bem como os desafios e oportunidades únicos no cenário em evolução das tecnologias baseadas em IA.

Recentemente, tivemos a oportunidade de entrevistar Xiao Yumin, o CTO da TorchV AI.TorchV AIé uma inovadora líder no campo da assistência à escrita no modelo Platform-as-a-Service (PaaS). A empresa tem causado sensação desde sua criação em 2023 graças à sua plataforma de ponta que apoia a criação de conteúdo de marketing e a redação de documentos oficiais.

Apresentação de Xiao Yumin

Xiao Yumin é o CTO da TorchV AI. Ele participou de desenvolvimentos técnicos em Java e Python, com expertise aprofundada em arquiteturas técnicas, microsserviços, frameworks open source, e um interesse particular em RAG (geração aumentada por recuperação), pesquisa vetorial e análise de dados não estruturados. Atualmente, ele supervisiona as atividades de produtos e pesquisa na TorchV AI, com foco em grandes modelos, RAG e pesquisa vetorial. Além disso, Xiao é o autor do projeto GVP Open Source China, Knife4j.

Leia também:Entrevista com Feng Ruohang, autor do Pigsty: simplificando a gestão do PostgreSQL e avançando a comunidade open source chinesa

P: Entendo que o produto da sua empresa tem como alvo principal clientes B2B. Em comparação com produtos B2C como “Wenyan Yixin” da Baidu e “Tongyi Qianwen” da Alibaba, que são IAs generativas focadas em pesquisa documental, o que motivou sua decisão de se concentrar em clientes B2B?

“Em ambientes corporativos, os dados não estruturados têm um valor significativo. É como abastecer um veículo; os dados podem impulsionar uma empresa, liberando continuamente seu valor.”

Xiao Yumin, CTO da TorchV AI

Inicialmente, nosso objetivo era desenvolver uma solução Software-as-a-Service (SaaS), e atualmente oferecemos duas versões. Uma é um serviço SaaS online, que funciona desde o advento da RAG e dos grandes modelos. Desde 2019, estávamos engajados no desenvolvimento de produtos de atendimento ao cliente inteligente, embora com uma pilha tecnológica um tanto desatualizada. Após o surgimento dos grandes modelos, transformamos fundamentalmente nossa pilha tecnológica. Anteriormente, gerenciávamos uma base de conhecimento que exigia recursos humanos consideráveis para manter as informações.

Por exemplo, se um usuário perguntasse sobre o tempo em Xangai, nossa abordagem era manter respostas específicas, seja usando APIs meteorológicas ou aproveitando outros conhecimentos textuais, o que era muito exigente para nossa equipe da base de conhecimento.

Aproveitando a oportunidade apresentada pelos grandes modelos e com base em nossa experiência anterior, decidimos lançar nosso negócio tornando a base de conhecimento uma pedra angular. Além disso, como você mencionou, grandes empresas como Baidu e Alibaba também estão ativas nesse campo. No entanto, as pequenas empresas têm suas próprias vantagens distintas. Em primeiro lugar, muitas pequenas e médias empresas (PMEs) podem não ter adotado totalmente a transformação digital.

Com o advento da inteligência artificial, a base de conhecimento que desenvolvemos nos permite nos basear nos esforços anteriores de digitalização, tornando a IA um produto altamente relevante. Além disso, em nossos cenários práticos de trabalho, cerca de 80% do tempo é dedicado ao processamento de dados não estruturados.

Além disso, acreditamos firmemente que, em ambientes corporativos, os dados não estruturados têm um valor significativo. Como liberar todo o potencial desses dados? É como abastecer um veículo; os dados podem impulsionar uma empresa, liberando continuamente seu valor. Durante as interações com muitos clientes, eles frequentemente compartilham preocupações semelhantes. Grande parte desse tipo de dados, incluindo documentos, geralmente é armazenada nos computadores pessoais dos funcionários. Eles desejam uma plataforma centralizada para os dados, a exemplo de um hub de dados.

No entanto, quando discutíamos anteriormente hubs de dados e big data, o foco estava principalmente em grandes empresas estabelecendo centros de big data, o que não explorava totalmente o valor dos hubs de dados, pois o foco estava principalmente em dados estruturados.

Grandes empresas têm produtos orientados ao consumidor, como WeChat e DingTalk, que são profundamente integrados nos ambientes de escritório e possuem acúmulos substanciais de dados, permitindo análise e exploração de dados. No entanto, em pequenas e médias empresas, esses tipos de produtos não são adequados às suas necessidades. Elas possuem uma variedade de documentos, incluindo registros financeiros, informações de funcionários, contratos e outros documentos pertinentes. Portanto, o desafio é usar esses dados de forma eficaz na era da IA.

Nosso objetivo atual é aproveitar essas ferramentas de forma eficaz por meio de métodos colaborativos dentro da empresa para racionalizar todo o fluxo de trabalho.

P: Ao projetar os produtos da sua empresa, você adapta diferentes categorias de produtos sob medida para atender aos problemas específicos de diferentes clientes?

Em resposta à sua pergunta sobre a personalização de produtos para nossos clientes, não praticamos uma personalização extensiva. Em vez disso, construímos sobre uma base de conhecimento fundamental, que serve como pedra angular do nosso ecossistema de dados. Uma vez estabelecida essa pedra angular, desenvolvemos uma variedade de aplicações por cima, como um centro de aplicações projetado para atender às necessidades das empresas. Por exemplo, hoje poderíamos precisar criar uma aplicação para a revisão de contratos a fim de melhorar a eficiência do departamento jurídico de uma empresa.

Temos uma aplicação para contratos em vigor, e amanhã poderia ser para redação, focando especificamente em cenários como a redação de relatórios anuais. Adaptamos a aplicação às circunstâncias específicas de nossos clientes para garantir que ela os ajude verdadeiramente a criar cenários úteis de IA dentro de sua empresa. Esforçamo-nos para consolidar cada aplicação uma a uma. Em um contexto profissional, a implantação da IA é muito diferente da geração de uma imagem, um vídeo ou uma música divertida. As exigências para a IA em um ambiente profissional são consideravelmente maiores.

Leia também:Entrevista com Du Junping, fundador e CEO da Datastrato: impulsionando a inovação em dados e IA

P: Você poderia mencionar os desafios técnicos que enfrentou durante o desenvolvimento de seus produtos e soluções?

Existem de fato vários problemas difíceis. Como os tecnólogos costumam dizer, esse problema específico parece não ter fundo. Atualmente, na indústria, o gerenciamento de documentos, especialmente PDFs, é talvez o aspecto mais difícil e problemático. No momento, nenhum fornecedor, nem mesmo os sistemas mais avançados como ChatGPT4, pode garantir a extração completa e precisa de informações de documentos PDF. Como observamos, trata-se de um processo iterativo contínuo, já que todos no campo da IA estão cada vez mais focados em resolver esse problema.

O desenvolvimento da tecnologia está certamente progredindo, incluindo muitos projetos open source e diversos modelos de IA que estão todos avançando nessa área.

P: Você tem outras ideias para compartilhar conosco sobre sua perspectiva sobre dados não estruturados?

“A capacidade de analisar, examinar e compreender dados não estruturados não é apenas um desafio tecnológico, mas também um imperativo estratégico para empresas que buscam obter vantagem competitiva.”

Xiao Yumin, CTO da TorchV AI

Os dados não estruturados representam um recurso vasto e inexplorado, que encerra um imenso potencial para as organizações. Dada a complexidade e o volume dos dados não estruturados, a exploração de seu valor requer abordagens e tecnologias inovadoras. O advento dos grandes modelos de linguagem e os avanços da IA nos permitiram extrair informações de uma maneira antes inimaginável. Do meu ponto de vista, o futuro reside na nossa capacidade de transformar esses dados em inteligência acionável, e estamos trabalhando ativamente para esse objetivo.

Uma perspectiva pessoal

Xiao Yumin se revela um líder visionário e pragmático no campo da inteligência artificial e do desenvolvimento de software. Sua expertise técnica aprofundada em áreas como RAG, pesquisa vetorial e análise de dados não estruturados, aliada à sua experiência prática no desenvolvimento de projetos open source como Knife4j, faz dele uma autoridade credível em seu campo. O compromisso de Xiao em aproveitar as tecnologias de IA para resolver problemas concretos, especialmente no setor B2B, reflete sua compreensão do mercado e dos desafios enfrentados pelas pequenas e médias empresas.

A abordagem de Xiao no desenvolvimento de produtos é metódica e centrada na criação de soluções escaláveis que podem ser adaptadas para atender às diversas necessidades das empresas. Seu foco na construção de uma base de conhecimento fundamental sólida como pedra angular para diversas aplicações testemunha seu pensamento estratégico e sua visão de longo prazo. Ao priorizar o desenvolvimento de aplicações que podem ser adaptadas às exigências específicas dos clientes, Xiao demonstra uma consciência aguçada da importância da flexibilidade e adaptabilidade em um cenário tecnológico em rápida evolução.

Além disso, as ideias de Xiao sobre os desafios relacionados ao gerenciamento de dados não estruturados, especialmente as complexidades associadas à extração de informações significativas de documentos como PDFs, revelam seu compromisso com a melhoria contínua e a inovação. Seu reconhecimento do valor estratégico dos dados não estruturados e do potencial que eles encerram para as empresas sublinha sua mentalidade progressista e sua dedicação em abrir novos caminhos de crescimento e vantagem competitiva.

No geral, Xiao Yumin é um indivíduo reflexivo e motivado que combina habilidades técnicas com uma compreensão clara do cenário comercial. Sua liderança na TorchV AI se caracteriza por um foco no desenvolvimento de soluções práticas de IA que podem verdadeiramente transformar a forma como as empresas operam e prosperam na era digital.