Alinhamento interno em sistemas de inteligência artificial

• Processo: 23/15356-7
• Modalidade de apoio: Bolsas no Brasil - Iniciação Científica
• Data de Início da vigência: 01 de março de 2024
• Data de Término da vigência: 31 de agosto de 2024
• Área de conhecimento: Ciências Exatas e da Terra - Ciência da Computação - Sistemas de Computação
• Pesquisador responsável: Jacques Wainer
• Beneficiário: Gabriel Antunes Rodrigues
• Instituição Sede: Instituto de Computação (IC). Universidade Estadual de Campinas (UNICAMP). Campinas , SP, Brasil
• Assunto(s): Aprendizado computacional Inteligência artificial
• Palavra(s)-Chave do Pesquisador: Alinhamento | Alinhamento interno | Aprendizado de Máquina | Inteligência Artificial | Inteligência artificial

Resumo

Neste trabalho, investigamos o problema do alinhamento interno, recentemente formalizado. Em termos gerais, alinhar uma inteligência artificial é construí-la ou ajustá-la de forma a garantir que as suas saídas estão de acordo com as preferências humanas. O alinhamento interno é uma subtarefa desse exercício, em que se trata o sistema como um mecanismo de otimização que é, por sua vez, otimizado por algum outro otimizador. Propõe-se avaliar ambientes onde ocorrem falhas de alinhamento interno, assim como apontar as possíveis causas desse fenômeno. Pretende-se, com isso, elucidar a natureza do problema, que consideramos importante para o futuro do campo.