Un Québécois, Mati Roy, occupant un poste clé chez OpenAI, exprime ses craintes quant à l’avenir de l’humanité face à l’intelligence artificielle (IA). Il estime que l’humanité pourrait perdre le contrôle face à des êtres plus puissants qu’elle, créés par l’IA.
Le parcours de Mati Roy
Originaire de Longueuil, Mati Roy a commencé à s’intéresser aux impacts de l’IA après ses études en génie physique à l’Université Laval. Rapidement, il a gravi les échelons pour intégrer l’équipe d’élite d’OpenAI, qui développe l’outil ultraperformant ChatGPT.
Rôle chez OpenAI
Depuis deux ans, Mati Roy est l’un des responsables stratégiques du programme technique d’OpenAI, une entreprise cofondée par Sam Altman et Elon Musk. Il supervise des personnes qui prétendent être ChatGPT pour voir comment ChatGPT devrait apprendre. Son travail consiste à s’assurer que ces données soient de haute qualité.
Les risques de l’IA selon Mati Roy
Mati Roy compare l’IA à l’énergie nucléaire, qui peut être utilisée pour le bien ou le mal. Il craint qu’un accident avec l’IA ne crée un être extrêmement puissant sans l’aligner avec nos valeurs, ce qui pourrait être extrêmement dangereux pour l’humanité.
Le combat entre le Bien et le Mal
Il y a un an, l’expert québécois en intelligence artificielle, Yoshua Bengio, avait exprimé des craintes similaires. Il avait prévenu que l’IA pourrait être utilisée par un dictateur pour prendre le contrôle. Il avait même partagé ses inquiétudes lors d’un sous-comité au Sénat américain à Washington.
Les avancées de l’IA et le marché de l’emploi
Le Conseil de l’innovation du Québec (CIQ) a récemment pressé le gouvernement Legault de moderniser les lois du travail. Le CIQ craint que les avancées de l’IA ne viennent frapper de plein fouet le marché de l’emploi.
Les bénéfices potentiels de l’IA
Mati Roy souligne également que l’IA bien dirigée avec de bonnes valeurs pourrait faire évoluer l’humanité dans la bonne voie. Il est convaincu que si nous arrivons à inculquer des valeurs à la machine pour éviter notre anéantissement, l’humanité fera un bond de géant en avant.
La vie éternelle grâce à l’IA
Mati Roy espère que l’IA permettra aux gens de vivre aussi longtemps qu’ils le souhaitent. Il estime que la création d’êtres plus intelligents que nous fera évoluer la technologie très rapidement. Les problèmes comme le cancer pourraient alors devenir faciles à régler.
