Capacidades, limitações e riscos associados a modelos de linguagem

A grande transformação em IA desde 2018 foi o método Transformer, revelado no paper Attention is all you need. Depois disso, muitos modelos de linguagem apareceram. O BERT tem sido amplamente adotado, pesquisado e aprimorado. O @pierre está malhando em cima dele há algum tempo e o conhece, como ninguém :slight_smile:. Um grande passou foi dado com esses modelos de linguagem. Tarefas como como tradução, resumo e geração de texto alcançaram desempenhos jamais vistos. Pelo prisma positivo, a openAI lançou o GPT-3 em 2020. Quanta atenção esse modelo ja despertou. Pudemos ver aplicações dele na geração de telas React ou textos criativos. Essas capacidades logo chamaram a atenção pelas perspectivas malignas que poderiam alavancar, como enganar e desinformar. Inspirados pelo lado negro dos grandes modelos, a openAI e a Univ. de Stanford acabam de lançar um artigo que aborda as seguintes preocupações: 1) Quais são as capacidades técnicas e as limitações dos grandes modelos de linguagem? 2) Quais são os efeitos sociais do uso generalizado de grandes modelos de linguagem? Vale a pena! Confira em: https://lnkd.in/epfZp-9

2 Curtidas