Estado e consistência
Como registrar ações, coordenar agentes e preservar consistência quando diferentes componentes atuam sobre o mesmo processo?
Doutoranda na POLI-USP · Sistemas inteligentes
Confiar em IA exige projetar além do modelo.
Dani Monteiro investiga como dados, identidade, autorização, estado, observabilidade e recuperação ajudam a controlar sistemas de inteligência artificial que agem em produção.
Estadoo que o sistema alterou e em que condição deixou o mundo
Limiteso que pode agir, em nome de quem e até onde
Evidênciao que permite compreender e auditar uma decisão
Recuperaçãocomo interromper, corrigir ou desfazer uma ação
A mudança de problema
A pergunta muda quando a IA pode agir.
A qualidade do modelo continua importante, mas não responde sozinha por tudo o que acontece quando um sistema consulta dados, decide, aciona ferramentas ou altera processos.
Um sistema pode produzir uma resposta plausível e ainda ser incapaz de demonstrar o que fez, respeitar limites ou se recuperar de uma falha.
A confiabilidade passa a ser uma propriedade da arquitetura completa: dados, estado, identidade, autorização, observabilidade, avaliação e recuperação.
Project Atlas
Quatro perguntas estruturam a investigação.
O Atlas conecta pesquisa, arquitetura de sistemas, experimentação técnica e prática profissional sem confundir hipótese, implementação, teste e resultado.
Identidade e limites
Como estabelecer em nome de quem o sistema atua e quais dados, ferramentas, condições e duração delimitam essa ação?
Proveniência e observabilidade
Quais evidências permitem reconstruir decisões, distinguir origens e compreender o comportamento do sistema?
Reversibilidade e recuperação
Como projetar interrupção, compensação e retorno a um estado seguro quando uma ação produz efeitos indesejados?
Identidade da pesquisa
Infraestrutura para a inteligência. Engenharia para a confiança.
CIE e TIE são formulações conceituais em desenvolvimento dentro do Project Atlas. Elas nomeiam dois ângulos complementares da mesma agenda.
Cognitive Infrastructure Engineering
Investiga a infraestrutura de dados, memória, contexto, execução e observação necessária para sustentar comportamento inteligente em produção.
Trusted Intelligence Engineering
Concentra-se nos limites, nas evidências, na governança e nos mecanismos de recuperação que tornam esse comportamento controlável e verificável.
Rigor de investigação
Da pergunta à evidência que pode ser examinada.
01Delimitar
Transformar uma preocupação ampla sobre confiança em uma pergunta técnica verificável.
02Projetar
Explicitar requisitos, mecanismos, limites e condições antes de avaliar uma solução.
03Observar
Separar implementação, teste executado, resultado observado e lacuna ainda aberta.
04Transferir
Levar o aprendizado para pesquisa, palestras, educação e decisões de arquitetura sem apagar limites ou incertezas.
Pesquisa em circulação
Trabalhos que conectam investigação e prática.
Apresentações já realizadas que mostram como perguntas de pesquisa atravessam saúde, dados científicos e sistemas multiagente.
Green AI e úlceras do pé diabético
Apresentação sobre eficiência e responsabilidade no uso de inteligência artificial aplicada a um contexto sensível.
Ver evidência relacionadaArquitetura de dados científicos amazônicos
O caso DataMap/Amazon conecta curadoria, publicação, governança, acesso e infraestrutura de dados.
Ver evidência relacionadaPostgreSQL e A2A
Estado transacional, coordenação entre agentes e memória como fundamentos de sistemas multiagente no Google Cloud.
Consultar a palestraEstado atual
O Atlas já tem direção. Seus resultados continuam em construção.
Foundations of Trusted Intelligence
Dani é doutoranda na POLI-USP. O Project Atlas organiza sua agenda intelectual sobre sistemas inteligentes confiáveis. Publicações, projetos e resultados serão incorporados conforme estiverem formalizados e disponíveis para consulta.
Interlocução acadêmica e técnica
Converse sobre uma pergunta que merece investigação.
Para colaboração acadêmica, discussão técnica, grupos de pesquisa ou conexão institucional, escreva com o contexto e o objetivo da conversa.