Por sua vez, Jim Balsillie, ex-codiretor de uma empresa de tecnologia, disse aos parlamentares que estudavam o projeto de lei que considerava a legislação “antidemocrática”. (Foto: Imprensa Canadense)
A Assembleia das Primeiras Nações alerta que poderá processar o governo liberal por causa do seu projeto de lei sobre a proteção de informações pessoais e inteligência artificial.
Por sua vez, Jim Balsillie, ex-codiretor de uma empresa de tecnologia, disse aos parlamentares que estudavam o projeto de lei que considerava a legislação “antidemocrática”.
O governo já foi criticado por não ter feito consultas mais amplas e com antecedência suficiente sobre o seu projecto de lei C-27, que actualiza as leis de privacidade e introduz a Lei da Privacidade.
Jim Balsillie, ex-co-diretor da Research In Motion, por trás do BlackBerry, afirmou na quarta-feira que o governo não realizou nenhuma consulta pública e confiou muito no feedback da indústria e não na sociedade civil.
Os líderes indígenas disseram que as Primeiras Nações não foram consultadas.
“Como resultado, o Ministro (da Justiça) não ouviu as Primeiras Nações, não entende as Primeiras Nações, e isso é visto na lei”, lamentou a Assembleia das Primeiras Nações num documento apresentado ao Comité Permanente sobre Indústria na Câmara dos Comuns.
O documento argumenta que o projeto de lei infringe os direitos das Primeiras Nações, incluindo a soberania dos dados, e que o litígio é “provável” se o governo não respeitar as suas obrigações.
O deputado liberal Ryan Turnbull defendeu o governo na reunião. Ele sustentou que foram realizadas mais de 300 “reuniões e consultas” sobre o projeto de lei e que também haverá “mais dois anos de consultas aprofundadas” sobre a regulamentação resultante do projeto.
Vieses de IA mencionados
O comitê também ouviu Christelle Tessono, pesquisadora de política tecnológica da Universidade de Toronto, que lamentou que o projeto de lei não abordasse os riscos aos direitos humanos que os sistemas de inteligência artificial (IA) podem causar.
Ela disse que, no mínimo, o preâmbulo do projeto de lei deveria “reconhecer o impacto desproporcional bem estabelecido que esses sistemas têm sobre grupos historicamente marginalizados”, como povos indígenas, pessoas de cor, membros da comunidade LGBTQ+ e pessoas economicamente desfavorecidas.
Durante seu depoimento, o Sr. Balsillie descreveu alguns dos “incontáveis” incidentes causados por sistemas de IA. Acrescentou que isto inclui casos em que estes sistemas introduziram discriminação habitacional, criaram associações racistas, mostraram ofertas de emprego a homens mas não a mulheres e recomendaram penas de prisão mais longas para minorias.
A Assembleia das Primeiras Nações também expressou preocupações sobre a IA, especialmente devido ao possível perfil racial.
“As Primeiras Nações foram tratadas como criminosas ao tentarem abrir contas bancárias e foram vítimas de discriminação racial no sector da saúde, por parte da polícia e de funcionários do governo”, afirma a organização nas suas memórias.
“Imagine a possibilidade de que tais abusos continuem, ou até piorem, quando organizações e indivíduos com preconceitos construírem sistemas de IA que terão impacto nas Primeiras Nações.” De acordo com o documento, o projeto pouco faz para tranquilizar as Primeiras Nações.
Jim Balsillie acredita que o projeto de lei precisava ser enviado de volta à prancheta.
“Apressar a aprovação de uma legislação tão falha só irá aprofundar os receios dos cidadãos em relação à IA, porque a Lei de Inteligência Artificial e Dados simplesmente prova que os decisores políticos não podem prevenir eficazmente os danos atuais e emergentes das tecnologias emergentes.”
Anja Karadeglija, imprensa canadense