Amazon tem medo do ChatGPT

O aumento da inteligência artificial (IA) transformou a forma como operamos no século XXI. ChatGPT, o chatbot de IA lançado pela OpenAI em Novembro de 2022, é um dos principais exemplos desta tendência. Funcionando como um assistente para utilizadores de telemóveis e outros dispositivos, permite-lhes fazer uma pausa nas tediosas tarefas de codificação e deixar a IA fazer “tudo” por eles. Mas embora o ChatGPT seja óptimo para muitas pessoas, tornou-se um motivo de preocupação entre algumas marcas como a Amazon. Isto porque a ferramenta poderia eventualmente ser utilizada para manipular códigos ou partilhar informação sensível com actores maliciosos. Por esta razão, a Amazon tem sido muito clara em avisar o seu pessoal contra a utilização do ChatGPT, mesmo que isso possa ser benéfico para os seus processos de desenvolvimento. A empresa emitiu severos avisos para não interagir com o ChatGPT e para não o utilizar para escrever códigos ou partilhar códigos já escritos com o chatbot para conclusão.

Este é um lembrete importante de como a IA pode representar certos riscos que as empresas precisam de estar conscientes de avançar para um mundo cada vez mais automatizado. Pode parecer suficientemente inofensivo à superfície; afinal de contas, ter um assistente de chatbot que conclua as tarefas de codificação de forma rápida e eficiente deverá poupar tempo e dinheiro a todos a longo prazo. No entanto, estes perigos devem ainda ser reconhecidos e abordados, a fim de manter um ambiente seguro para todos os utilizadores envolvidos – tanto empresas como indivíduos. Além disso, é importante para nós, enquanto utilizadores finais, compreender também as nossas próprias responsabilidades quando interagimos com tais tecnologias, para que não sejamos vítimas de golpes ou comportamentos maliciosos em linha. À medida que a sociedade continua a lidar com as implicações desta nova tecnologia, uma coisa permanece certa: a vigilância é fundamental quando lidamos com robots de conversação de IA como o ChatGPT!

A IA está a trazer muitas mudanças na forma como fazemos as coisas. Esta ferramenta tem sido um assistente em telemóveis e outros dispositivos. No entanto, o desenvolvimento da IA generativa toma um novo rumo. Os utilizadores podem simplesmente relaxar e deixar a IA fazer “tudo” por eles. Em Novembro de 2022, OpenAI lançou o chatbot da IA, ChatGPT. Após o seu lançamento, esta ferramenta tornou-se muito popular no campo da tecnologia. Mas embora seja uma grande ferramenta de assistência para muitos, é também uma “ameaça” para algumas pessoas e marcas.

O canal interno Slack da Amazon levantou muitas questões do pessoal sobre como usar o ChatGPT. Alguns funcionários têm perguntado se existem directrizes oficiais para utilizar o ChatGPT em dispositivos de trabalho, enquanto outros têm-se perguntado se estão autorizados a trabalhar com ferramentas de IA. Um funcionário instou a divisão de computação em nuvem da Amazon, AWS, a clarificar a sua posição sobre o uso de “ferramentas de IA generativa (AIGC)”.

Em breve, um advogado corporativo da Amazónia juntou-se à discussão. As imagens das comunicações internas no canal Slack mostram que o advogado advertiu o pessoal a não fornecer ao ChatGPT “qualquer informação confidencial da Amazon” Esta informação inclui o código da Amazon a ser escrito. Também aconselhou o pessoal a seguir a actual política de não divulgação da empresa, uma vez que algumas das respostas do ChatGPT pareciam muito semelhantes à realidade interna da Amazon.

“Isto é crítico porque a sua contribuição pode ser utilizada como dados de formação iterativos para o ChatGPT; não queremos que a sua produção contenha ou se assemelhe à nossa informação confidencial”, escreveu o advogado. Estes intercâmbios sugerem que o súbito surgimento do ChatGPT levantou muitas novas questões éticas.

Porque anda tudo louco com o Chat GPT?

ChatGPT é uma ferramenta de IA conversacional que responde a consultas com respostas mais claras, e por vezes muito inteligentes. A rápida disseminação do ChatGPT tem o potencial de perturbar várias indústrias, incluindo os meios de comunicação social, o meio académico e os cuidados de saúde. Desde então, esta situação tem suscitado esforços no sentido de encontrar novos casos de utilização para os chatbots e os seus possíveis impactos.

Como o pessoal da empresa partilha informação confidencial com ChatGPT, e o que o seu criador, OpenAI, faz com ela pode tornar-se uma questão espinhosa. Isto é muito importante para a Amazon, uma vez que a sua arquidiocese, a Microsoft, investiu fortemente no OpenAI. Recorde-se que o investimento da Microsoft no OpenAI ascende alegadamente a 10 mil milhões de dólares.

Emily Bender, que ensina Linguística Computacional na Universidade de Washington, disse: “O OpenAI está longe de ser transparente sobre a forma como utiliza os dados. Mas se esses dados forem utilizados para formação, eu esperaria que as empresas pensassem. Após vários meses de utilização generalizada do ChatGPT, será possível obter informações confidenciais de uma empresa privada através de instruções cuidadosamente elaboradas?”

A Amazon segue o seu pessoal para ver quem usa o chatbot

A Amazon dispõe de uma série de salvaguardas internas para o pessoal que utiliza o ChatGPT. Por exemplo, capturas de ecrã da troca mostram que quando o pessoal utiliza dispositivos de trabalho para aceder ao website ChatGPT, surge uma mensagem de aviso dizendo que está prestes a aceder a um serviço de terceiros que “não está aprovado para utilização pela Amazon Security”.

O pessoal que participa no chat do canal Slack disse que poderia contornar a mensagem simplesmente clicando no separador “Acknowledge” (Reconhecer). O pessoal especulou que o popup de aviso era para os impedir de colar informação confidencial no ChatGPT, especialmente porque não tinham visto a política da empresa em matéria de utilização interna.

O que pensam os funcionários da Amazon?

Ainda assim, alguns funcionários da Amazon já estão a utilizar ferramentas de IA como “assistentes de codificação” de software para ajudar a melhorar as linhas internas de código. “Penso que seria óptimo ter agora esta funcionalidade fora da caixa; penso que qualquer orientação seria óptima”, escreveu um funcionário da Amazon num canal Slack.

Outro membro do pessoal disse que tinha partilhado as perguntas da Amazon para uma posição aberta na programação do ChatGPT. De acordo com Slack dos funcionários , o modelo de IA fornece soluções correctas para vários problemas técnicos. “Estou simultaneamente preocupado e entusiasmado por ver o impacto que isto terá na forma como conduzimos as entrevistas de programadores”, disse ele.

No geral, o pessoal da Amazon que participou em conversas no canal Slack estava entusiasmado com o potencial do ChatGPT. Perguntaram-se mesmo se a Amazon estaria a desenvolver um produto concorrente. O advogado da empresa que advertiu os funcionários contra a utilização do ChatGPT disse que a Amazon estava a acelerar o desenvolvimento de “tecnologia semelhante”, citando como exemplos o assistente de voz Alexa e o serviço de recomendação de código CodeWhisperer.

Um funcionário da AWS escreveu que a equipa de Apoio às Empresas formou recentemente um pequeno grupo de trabalho interno para “compreender o impacto do Chat AI avançado no nosso negócio”. A investigação mostra que o ChatGPT é “muito bom” a responder a questões de apoio AWS, incluindo a resolução de questões da base de dados Aurora, entre outras. Ao mesmo tempo, é também eficaz na criação de materiais de formação para o exame AWS Certified Cloud Architect e na abordagem dos objectivos da empresa do cliente.

Qual é a preocupação?

O uso crescente do ChatGPT no trabalho levanta sérias questões sobre como o OpenAI planeia utilizar material partilhado com as suas ferramentas de IA, disse Bender da UW. Os termos de serviço do OpenAI exigem que os utilizadores concordem que ele pode utilizar todas as entradas e saídas geradas por eles e pelo ChatGPT. Declarou também que OpenAI tinha removido toda a informação pessoalmente identificável (PII) dos dados por ele utilizados.

Mas, Bender diz que é difícil ver como o OpenAI poderia identificar e apagar todas as Informações Pessoais Identificáveis (IPI), dada a escala em rápido crescimento do ChatGPT. De facto, o ChatGPT teve mais de 1 milhão de utilizadores no espaço de uma semana após o seu lançamento. Além disso, a propriedade intelectual de uma empresa pode não fazer parte da definição de informações que identificam pessoalmente.

Para o pessoal da Amazon, a privacidade dos dados parece ser a menor das suas preocupações. A utilização de chatbots no trabalho aumentou a produtividade por um factor de dez, dizem eles. Muitos esperam juntar-se a uma equipa interna que esteja a desenvolver um serviço semelhante. “Se há planos para construir um serviço semelhante agora, gostaria de fazer parte dele e contribuir se necessário”, escreveu um dos funcionários em Slack.

Conclusão

Em conclusão, o ChatGPT é uma ferramenta de chatbot de IA que tem gerado muito burburinho no mundo da tecnologia desde que foi lançado. A sua capacidade de ajudar os utilizadores a relaxar e deixar a IA fazer várias tarefas sem qualquer esforço é certamente impressionante, contudo esta ferramenta não é bem-vinda por algumas marcas como a Amazon, devido ao seu potencial para ser utilizada para escrever código ou partilhar código já escritos com o ChatGPT.

Podem contar com o AndroidGeek para todas as notícias, análise, actualizações e fugas de tecnologia relacionadas, para que possa manter-se informado de todos os últimos avanços em Inteligência Artificial e outros campos relacionados com a tecnologia. Com o conteúdo garantido do AndroidGeek pode ter a certeza de obter sempre os últimos conhecimentos sobre as mais recentes tecnologias e tendências que impulsionam a inovação. Desde informação sobre tecnologias emergentes como o Chat GPT até actualizações sobre as já existentes, o Android Geek fornece uma cobertura abrangente sobre tópicos que são importantes para si, para que nunca perca um desenvolvimento ou tendência importante.

Fonte