A quebra de privacidade da IA: "Conversas do ChatGPT" expostas em tribunal; Altman: tenho medo de inserir dados pessoais, é difícil saber quem terá acesso às informações.
Sam Altman, CEO da OpenAI, alerta que as conversas com o ChatGPT não são protegidas por privilégio legal e podem se tornar provas em litígios, levantando preocupações sobre lacunas de privacidade de IA e expansão da vigilância. (Sinopse: Sam Altman olha para o futuro da IA de pais novatos: robôs humanoides estão chegando, você está preparado?) (Suplemento de antecedentes: A IA pode anular o caso? Nenhuma advogada confia no ChatGPT para desenterrar 5 milhões de golpes de herança, persuadir o tribunal a reiniciar a investigação A IA se tornou perfeitamente integrada à vida cotidiana, mas as preocupações ocultas que vêm com a conveniência estão sendo colocadas no centro das atenções: qualquer pessoa que digite uma palavra no ChatGPT hoje pode comparecer ao tribunal amanhã. O CEO da OpenAI, Sam Altman, alertou recentemente em uma conversa com o apresentador de podcast Theo Von: "Quando você compartilha o conteúdo mais sensível com o ChatGPT, podemos ser solicitados a fornecê-lo no caso de um processo judicial. Atualmente, existe proteção de privilégio legal quando se fala com um terapeuta, advogado ou médico, mas não estabelecemos esse mecanismo para conversas com o ChatGPT." Uma frase revela uma lacuna há muito esquecida. Os registos médicos, as conversas de advogados e as confissões religiosas estão protegidos por leis ou códigos éticos, e o acesso judicial deve ultrapassar limiares elevados; Os chatbots não têm esse firewall, e o texto da interação do usuário com o modelo não é legalmente isento, e o provedor de serviços tem que entregar o arquivo desde que a intimação judicial seja notificada. Conflito entre Política e Litígio Embora a política de privacidade no site oficial da OpenAI afirme que os dados são criptografados em trânsito, ela não fornece criptografia de ponta a ponta. O documento refere ainda que o Conteúdo do Utilizador "pode ser partilhado com terceiros". Este tipo de flexibilidade, que é comum nas operações comerciais, foi recentemente empurrado para o ápice da contradição. No processo de direitos autorais do New York Times, a ordem do tribunal exigindo que a OpenAI retivesse todos os dados relevantes do usuário colidiu diretamente com a anunciada declaração de "excluir ou minimizar a coleta" da empresa, demonstrando plenamente a falta de classificação granular dos serviços de IA no quadro legal atual. Quando o treinamento de modelos de IA requer um grande corpus, as empresas tendem a economizar texto por um longo tempo para otimizar os algoritmos; Uma vez que um documento oficial cai na jurisdição, o usuário perde o direito de apagamento. O ritmo do direito e da tecnologia está fora de sincronia, tornando o conflito inevitável. Altman disse: "Esta é provavelmente uma das razões pelas quais às vezes tenho medo de usar certas tecnologias de IA, porque não sei quanta informação pessoal quero inserir porque não sei quem terá essa informação. Possibilidades de monitoramento empresarial Não é um medo abstrato que as empresas possam ter problemas de monitoramento depois de terem informações pessoais. Uma vez que os chats são pesquisáveis em grande escala, governos e empresas têm um incentivo para transformar conversas em tempo real em avaliações de risco ou previsões comportamentais. Para advogados, médicos, psicólogos e outros profissionais, usar o ChatGPT para responder a perguntas de clientes ou pacientes, aparentemente economizando tempo, pode violar a ética profissional. Como o prestador de serviços tem o direito de analisar o texto carregado, isso equivale a expor segredos de clientes a terceiros. Altman observou ainda: "Eu me preocupo que quanto mais IA houver no mundo, mais vigilância generalizada será. A história provou repetidamente que os governos tendem a ir longe demais nesse sentido, e isso realmente me perturba." O privilégio tradicional advogado-cliente exige que as informações circulem apenas entre as partes; A introdução da IA equivale a um par extra de olhos invisíveis, e não há nenhuma disposição pronta para dar o mesmo nível de proteção. Os profissionais que não atualizam os seus contratos e fluxos de trabalho são suscetíveis de infringir a lei sem saber. Um ecossistema de IA mais seguro precisa avançar para três eixos ao mesmo tempo. Em primeiro lugar, o legislador deve formular regras claras de "privilégio legal digital" que criptografem conversas específicas e as incluam no alto limiar da perícia judicial. Além disso, as empresas devem integrar criptografia de ponta a ponta, armazenamento mínimo e autonomia do cliente no design do produto, em vez de preencher lacunas após o fato. A coisa mais importante e o que podemos fazer é que os usuários tomem a iniciativa de separar informações altamente confidenciais de consultas gerais e mudar para canais seguros tradicionais quando necessário. A eficiência da IA não deve ocorrer à custa da privacidade. Como as caixas de diálogo substituem teclados e telefones, o que é necessário não é silêncio, mas salvaguardas legais verificáveis e guarda-corpos técnicos. A lembrança de Altman pode não ser agradável, mas oferece um espelho: um reflexo do fosso cada vez maior entre a velocidade da inovação e a reparação institucional. Preencher as lacunas é a única maneira de fazer com que a IA beneficie verdadeiramente a sociedade. Relatórios relacionados Imagine RobotFi: Os robôs também estão na cadeia, que nova jogabilidade eles trarão? O bot de Vitalik "miou" causou discussão acalorada, comunidade Ethereum: todo o meu dinheiro é pressionado em pessoas que aprendem gato latindo Poder de computação é rei! Huang Jenxun sobre como a IA reconstruirá as cadeias de valor globais, quando os robôs se tornarão generalizados e a IA acelerará o retorno da manufatura aos Estados Unidos? "Colapso da privacidade da IA "ChatGPT conversation" nu em frente à lei; Altman: Tenho medo de inserir informações pessoais, é difícil saber quem receberá as informações" Este artigo foi publicado pela primeira vez no "Dynamic Trend - The Most Influential Blockchain News Media" da BlockTempo.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
A quebra de privacidade da IA: "Conversas do ChatGPT" expostas em tribunal; Altman: tenho medo de inserir dados pessoais, é difícil saber quem terá acesso às informações.
Sam Altman, CEO da OpenAI, alerta que as conversas com o ChatGPT não são protegidas por privilégio legal e podem se tornar provas em litígios, levantando preocupações sobre lacunas de privacidade de IA e expansão da vigilância. (Sinopse: Sam Altman olha para o futuro da IA de pais novatos: robôs humanoides estão chegando, você está preparado?) (Suplemento de antecedentes: A IA pode anular o caso? Nenhuma advogada confia no ChatGPT para desenterrar 5 milhões de golpes de herança, persuadir o tribunal a reiniciar a investigação A IA se tornou perfeitamente integrada à vida cotidiana, mas as preocupações ocultas que vêm com a conveniência estão sendo colocadas no centro das atenções: qualquer pessoa que digite uma palavra no ChatGPT hoje pode comparecer ao tribunal amanhã. O CEO da OpenAI, Sam Altman, alertou recentemente em uma conversa com o apresentador de podcast Theo Von: "Quando você compartilha o conteúdo mais sensível com o ChatGPT, podemos ser solicitados a fornecê-lo no caso de um processo judicial. Atualmente, existe proteção de privilégio legal quando se fala com um terapeuta, advogado ou médico, mas não estabelecemos esse mecanismo para conversas com o ChatGPT." Uma frase revela uma lacuna há muito esquecida. Os registos médicos, as conversas de advogados e as confissões religiosas estão protegidos por leis ou códigos éticos, e o acesso judicial deve ultrapassar limiares elevados; Os chatbots não têm esse firewall, e o texto da interação do usuário com o modelo não é legalmente isento, e o provedor de serviços tem que entregar o arquivo desde que a intimação judicial seja notificada. Conflito entre Política e Litígio Embora a política de privacidade no site oficial da OpenAI afirme que os dados são criptografados em trânsito, ela não fornece criptografia de ponta a ponta. O documento refere ainda que o Conteúdo do Utilizador "pode ser partilhado com terceiros". Este tipo de flexibilidade, que é comum nas operações comerciais, foi recentemente empurrado para o ápice da contradição. No processo de direitos autorais do New York Times, a ordem do tribunal exigindo que a OpenAI retivesse todos os dados relevantes do usuário colidiu diretamente com a anunciada declaração de "excluir ou minimizar a coleta" da empresa, demonstrando plenamente a falta de classificação granular dos serviços de IA no quadro legal atual. Quando o treinamento de modelos de IA requer um grande corpus, as empresas tendem a economizar texto por um longo tempo para otimizar os algoritmos; Uma vez que um documento oficial cai na jurisdição, o usuário perde o direito de apagamento. O ritmo do direito e da tecnologia está fora de sincronia, tornando o conflito inevitável. Altman disse: "Esta é provavelmente uma das razões pelas quais às vezes tenho medo de usar certas tecnologias de IA, porque não sei quanta informação pessoal quero inserir porque não sei quem terá essa informação. Possibilidades de monitoramento empresarial Não é um medo abstrato que as empresas possam ter problemas de monitoramento depois de terem informações pessoais. Uma vez que os chats são pesquisáveis em grande escala, governos e empresas têm um incentivo para transformar conversas em tempo real em avaliações de risco ou previsões comportamentais. Para advogados, médicos, psicólogos e outros profissionais, usar o ChatGPT para responder a perguntas de clientes ou pacientes, aparentemente economizando tempo, pode violar a ética profissional. Como o prestador de serviços tem o direito de analisar o texto carregado, isso equivale a expor segredos de clientes a terceiros. Altman observou ainda: "Eu me preocupo que quanto mais IA houver no mundo, mais vigilância generalizada será. A história provou repetidamente que os governos tendem a ir longe demais nesse sentido, e isso realmente me perturba." O privilégio tradicional advogado-cliente exige que as informações circulem apenas entre as partes; A introdução da IA equivale a um par extra de olhos invisíveis, e não há nenhuma disposição pronta para dar o mesmo nível de proteção. Os profissionais que não atualizam os seus contratos e fluxos de trabalho são suscetíveis de infringir a lei sem saber. Um ecossistema de IA mais seguro precisa avançar para três eixos ao mesmo tempo. Em primeiro lugar, o legislador deve formular regras claras de "privilégio legal digital" que criptografem conversas específicas e as incluam no alto limiar da perícia judicial. Além disso, as empresas devem integrar criptografia de ponta a ponta, armazenamento mínimo e autonomia do cliente no design do produto, em vez de preencher lacunas após o fato. A coisa mais importante e o que podemos fazer é que os usuários tomem a iniciativa de separar informações altamente confidenciais de consultas gerais e mudar para canais seguros tradicionais quando necessário. A eficiência da IA não deve ocorrer à custa da privacidade. Como as caixas de diálogo substituem teclados e telefones, o que é necessário não é silêncio, mas salvaguardas legais verificáveis e guarda-corpos técnicos. A lembrança de Altman pode não ser agradável, mas oferece um espelho: um reflexo do fosso cada vez maior entre a velocidade da inovação e a reparação institucional. Preencher as lacunas é a única maneira de fazer com que a IA beneficie verdadeiramente a sociedade. Relatórios relacionados Imagine RobotFi: Os robôs também estão na cadeia, que nova jogabilidade eles trarão? O bot de Vitalik "miou" causou discussão acalorada, comunidade Ethereum: todo o meu dinheiro é pressionado em pessoas que aprendem gato latindo Poder de computação é rei! Huang Jenxun sobre como a IA reconstruirá as cadeias de valor globais, quando os robôs se tornarão generalizados e a IA acelerará o retorno da manufatura aos Estados Unidos? "Colapso da privacidade da IA "ChatGPT conversation" nu em frente à lei; Altman: Tenho medo de inserir informações pessoais, é difícil saber quem receberá as informações" Este artigo foi publicado pela primeira vez no "Dynamic Trend - The Most Influential Blockchain News Media" da BlockTempo.