Sam Altman defende sigilo nas conversas com o ChatGPT: ‘como com médicos e advogados’.

Olá! Seja bem-vindo a mais uma edição da nossa Newsletter.

Aqui é o Evandro Fernandes, da Digienge.

Nesta edição, trago uma confissão de quem mais entende de IA no mundo e que valida tudo o que falamos desde a primeira News.

Sam Altman defende sigilo nas conversas com o ChatGPT: ‘como com médicos e advogados’.

← Início IA

Em uma entrevista recente, o CEO da OpenAI, Sam Altman, revelou sua maior preocupação:

Não são os grandes dilemas morais, mas sim as “pequenas decisões” que o ChatGPT toma todos os dias.

“Não durmo muito bem à noite”, afirmou, citando o peso de centenas de milhões de pessoas conversando com o modelo.

Altman explicou que essas “pequenas decisões” podem ter grandes consequências, como no caso de um processo judicial onde a família de um adolescente falecido alega que a IA contribuiu para o suicídio do filho.

É por isso que a OpenAI está investindo em treinamento ético para o modelo, consultando filósofos e especialistas.

O CEO também defendeu um conceito radical: o “privilégio de IA”, um sigilo semelhante ao que protege conversas com médicos e advogados. Isso impediria que governos tivessem acesso às informações dos usuários.

Por que isso importa?

← Início Humano

A confissão de Sam Altman é a prova final de que a IA já não é apenas um código, mas tem o poder de impactar, para o bem ou para o mal, a vida das pessoas.

O criador do ChatGPT, em sua posição de poder e conhecimento, está nos dizendo que o maior risco da IA não é a sua superinteligência, mas a falta de controle sobre suas pequenas ações.

O que acontece quando o sua IA toma uma decisão errada?

O que acontece quando usa um tom inapropriado ou dá uma informação equivocada?

As “pequenas decisões” podem se transformar em grandes crises.

Agora, a pergunta que eu faço é: Qual é a melhor forma de lidar com isso? Deixando por conta ou com supervisão ?

A inteligência de uma máquina não terá valor se não for guiada e supervisionada pela ética, pelo bom senso e pelos valores humanos.

A grande lição aqui é que, para ter o “privilégio” de uma IA, seja no seu negócio ou na sua vida, você precisa ter a responsabilidade de geri-la.

Você precisa ter a capacidade de auditar, treinar e corrigir as “pequenas decisões” dos seus Recursos Não-Humanos, garantindo que eles estejam sempre alinhados com os seus valores.

Um abraço,