A constituição que vai governar as IAs

A Anthropic, criadora de um chatbot chamado Claude, fez uma experiência:

colocou cidadãos comuns para escrever as regras que definem o comportamento de seu bot. Essa mentalidade democrática em relação ao controle de IA pode ser um caminho a ser seguido por outras empresas de IA no futuro.

O artigo, intitulado "What if We Could All Control A.I.?" (E se todos pudessemos controlar a inteligência artificial?), foi escrito por Kevin Roose, um respeitável colunista de tecnologia do The New York Times.

Tenho visto uma série de debate sobre quem deve controlar a IA e sobre as regras que esses sistemas poderosos devem seguir. A IA pode ser governada por empresas? Eles devem buscar tornar seus sistemas seguros e inofensivos? Os reguladores e políticos devem intervir e construir suas próprias proteções? Ou será que os modelos de IA devem ser de código aberto e distribuídos gratuitamente, permitindo que usuários e desenvolvedores escolham suas próprias regras?
   
Essas foram algumas das questões abordadas no artigo que me chamaram a atenção.
   
A Anthropic propôs uma espécie de caminho do meio: um modelo de governança de IA que é elaborado por cidadãos comuns.

Em sua experiência, ao invés de impor um conjunto de regras escritas por um pequeno grupo interno, a Anthropic pediu a um grupo de mil americanos para escrever as regras de governança para seu chatbot, o Claude. Este projeto, chamado de "Constitutional A.I.", procura dar ao chatbot instruções claras sobre como lidar com pedidos sensíveis, quais tópicos estão fora dos limites e como agir de acordo com os valores humanos.

Outro tópico importante levantado pelo artigo,é a ideia de que a IA deve ser adaptável, acessível e flexível para pessoas com deficiências. O direito à acessibilidade também deve ser uma prioridade ao desenvolver novas tecnologias, uma vez que todos devem ter a oportunidade de aproveitá-las, independente de suas habilidades físicas ou cognitivas.

Em suma, a ideia de permitir que os cidadãos comuns ajudem a determinar as regras para a IA é tanto emocionante quanto assustadora. Por um lado, pode aumentar a aceitação e a confiança neles. Por outro, apresenta uma série de desafios, especialmente quando se considera quem ficará por último responsável pelas regras. No final, a culpa sempre vai ser de uma pessoa, física ou jurídica.

Fico imaginando até que ponto essa abordagem pode ir. No futuro, veremos uma IA totalmente governada pelas pessoas que ela serve? Ou sempre haverá alguma forma de controle centralizado?

A original version of Kevin’s article is available on the Times’ website at the following link https://www.nytimes.com/2023/10/17/technology/ai-chatbot-control.html

‍
Me siga nas redes sociais (@inventormiguel) e assine nossa newsletter semanal para mais discussões instigantes sobre inteligência artificial, negócios e a vida como um todo!

#AI #ArtificialIntelligence #Business #AIControl #Chatbot #Anhtropic #Technology #KevinRoose #TheNewYorkTimes #AIConstitution #AIgovernance #Anthropic #chatbotClaude #CollectiveConstitutionalAI #ConstitutionalA.I #publicconstitution #democratizedAI #AIandbusiness #AIandBrazil #AIethics.