L’essor de l’intelligence artificielle… ça vous fait peur ?
Réponses
-
Il y a eu des articles sur sa possible utilisation pour hypertruquer la voix d'une personne pour commettre une fraude de type grand-parent, mais ce n'est pas encore clair si l'IA a vraiment été utilisée ou pas encore.
0 -
Je pense que oui. L'hypertrucage va rendre ça vraiment difficile de savoir si une vidéo d'un politicien est vraie ou pas par exemple.
2 -
Sans parler que les législations poussent inévitablement les ambitieux, les créatifs, ceux qui ont soif de créer toujours plus avec moins, tous ceux pour qui une limite devient une opportunité de réussir à la contourner. Et je ne connais pas grand chose qui n'a pas, un jour ou l'autre, été complètement protégé contre n'importe qui ou n'importe quoi.
En fait sûrement que ça existe des zones intouchables, mais juste le piratage est capable d'aller bien au-delà de ce qu'on sait... et même plus que ce qu'on peut imaginer...
Pas tant un rapport direct, mais les livres et films que j'ai déjà vus et qui m'ont tellement écoeuré vu leur contenu horrible n'ont été que fiction jusqu'au moment où j'ai réalisé que si quelqu'un a pensé le mettre en scénario, c'est que déjà, pire existe.
L'IA est née de l'humain, mais on dirait que c'est plus qu'évident qu'elle sera utilisé dans un but de destruction, de pouvoir , etc etc. Qu'en pensez-vous?
0 -
Oui, ça, j'avais vu NAD.
Mais bon, les politiciens disent souvent des bêtises, ce ne sera pas si différent! 😄
1 -
En tk! Ce n’est pas une IA qui va m’apprendre à jardiner! Je fais mes propres semis
2 -
Pourtant Pascal, c'était très complet et impressionnant comme informations! Je ne vois pas comment j'aurai pu trouver cela par une recherche google, alors qu'avec IA fourni par le navigateur Opera, en quelques secondes j'avais une mine d'informations pertinentes. Tu peux essayer pour voir...
0 -
Moi j'utilise souvent ChatGPT pour la programmation. Il peut sortir rapidement la bonne ligne de code alors que fouiller sur des forums ou dans la documentation prendrait bien plus de temps.
0 -
Il y a 30 ans, j'étais en informatique. Que de lignes de code, à faire sans oublier une virgule! C'est chouette de pouvoir ainsi avoir cela facilement. Cependant, NAD, est-ce que cela est créé de façon concise ou est-ce que le code est lourd, via l"IA? Dans le temps, l'importance d'avoir du léger était capital...
0 -
Non merci! Je suis assez réfractaire à ce genre de technologie sans humanité!
Je préfère demander à des amis ou sur des groupes de jardinage, à des vrais personnes qui ont une vraie expérience de culture potagère!
1 -
Je comprends Pascal mais quand on a pas d'amis ou d'autres possibilité. N'est-ce pas tout simplement, un Google un peu plus boosté, qui peut donner aussi des résultats mais plus conséquents? (Bon, ce n'est pas pour te convaincre...)
0 -
Je n'ai pas la référence, mais l'IA est utilisée pour faire de test de pénétration de système informatique, ça c'est positive. Mais il est aussi utilisé par des hacker pour pénétrer de système informatique la mauvaise application.
0 -
Désolé de continuer la réponse, mais je peux dire que ceci peut être appliqué à toutes les bonnes applications de AI, AI n'a pas la possibilité de connaitre si le résultat sera pour améliorer ou pas.
C'est comme un logiciel/virus/malware etc comme vous pouvez savoir s'il est fait pour le bien.
Pensez, vous utilisez AI pour vous aider avec un vaccin, mais vous pourrez l'utiliser pour vous aider à créer une arme biologique aussi.
Est-ce que ceci pourra être contrôlé? pas certain
0 -
L'IA s'enrichie également de l'expérience de "vraies personnes". C"est comme une énorme base de données. Mais oui, l'interraction avec elle est pour le moment moins "humaine" (d'où le terme "artificielle" dans "intelligence artificielle" 😁).
0 -
Je suis d'accord, les réponses fournies par une IA (notamment ChatGPT) sont assez bluffantes.
Et avec l'application ChatGPT, il est également possible de discuter avec cette IA (nul besoin de perdre du temps à écrire). J'ai vraiment été surpris par certaines de nos "discussions" !
1 -
Oui, les dérives risquent d'être nombreuses dans un avenir proche. l'utilisation que l'Homme fera de l'IA à ses côtés positifs mais également négatifs.
"Il faut se méfier des ingénieurs, ça commence par la machine à coudre, ça finit par la bombe atomique."
0 -
Elle ne sera jamais humaine, sa reste une machine sans âme!
1 -
Qu’il n’a pas un aime c’est le côté positif donc nous pouvons la contrôler
0 -
C'est certain ! 😁
Mais nos interractions avec l'IA auront l'air de plus en plus humaine avec le temps, j'en reste persuadé. Des bugs dans la "matrice" pourront bien entendu être toujours observés, ça reste une machine comme tu le dis si bien.
0 -
Tout a fait, en cas de dérives, on pourra la débrancher ! 😁
(à condition que ce soit entre de bonnes mains, là est tout le problème.)
0 -
Comme j’écris plus haut c’est un logiciel c’est à nous de la gère correctement
un virus malware c’est un logiciel .
c est comme un objet qu’il a été créé pour cuisiner mais il peut être utilisé pour blesser une personne
0 -
Nous connaissons les failles de l'Homme... on ne peut pas être certain que l'IA soit gérée correctement.
0 -
Je n'avais pas du tout pensé aux hackers elena ! Effectivement cela pourrait être le b*rdel avec une arme si ''simple''.
Eh la la...
0 -
Probablement vrai Pascal, pour l'instant, mais l'IA se métamorphose si vite que s'en est quand même inquiétant.
0 -
l'inquiétant c'est la vitesse, je pense que les experts ne s'attendaient pas le saut que OpenAI a montré possible.
0 -
Oui c'est encore important d'avoir du code compréhensible et efficace. Je dirais que ChatGPT offre souvent une bonne base fonctionnelle ou bien près de l'être et qu'on a qu'à raffiner le code quelques peu.
0 -
Oui, il y a eu des fractures au saint d'OpenAI, car certains employés trouvaient qu'ils avançaient trop vite sans prendre assez de précautions sur les utilisations possibles de leur outil.
0 -
Pratiquement chaque jour NAD, j'en apprends sur l'évolution, les champs du possible... Incroyable!
0 -
Oui ça avance de plus en plus vite on dirait! Ça fait peut un peu de ne pas savoir ce à quoi ça va mener dans les prochaines années.
0 -
On parlait de suppression de postes. Et bien cela arrivera probablement plus vite qu'on le pensait NAD. Même une certaine modération de forum pourra se faire avec le temps, tu ne crois pas?!
0 -
Oui ça ne m'étonnerait pas. L'analyse de sentiments (dire si un message est positif ou négatif) se fait déjà. J'imagine que ça peut être adapté plus précisément à des règles pour certains forums!
0 -
En fait, ça existe déjà! Par exemple, OpenAI utilise l'IA pour détecter si les messages contreviennent à leur politique. Leur API est même publique:
https://platform.openai.com/docs/guides/moderation/quickstart
0 -
Ah oui c'est vrai que c'est vraiment l'équivalent! Merci pour le lien c'est très intéressant.
0 -
Merci paradis pour le lien...
1 -
Lu dans un article de La Presse :
ChatGPT, la très populaire interface d’intelligence artificielle (IA) générative qui a fait connaître cette technologie, a débloqué pendant plusieurs heures mardi [20 février 2024], répondant aux questions des utilisateurs avec des phrases sans queue ni tête, un rappel que ces systèmes sont encore balbutiants.
Sur le forum des développeurs qui utilisent les outils d’OpenAI, un utilisateur baptisé « IYAnepo » a ainsi relevé le comportement « étrange » de ChatGPT.
« Il génère des mots totalement inexistants, omet des mots et produit des séquences de petits mots-clés qui me sont inintelligibles, entre autres anomalies », a-t-il relaté. « On pourrait penser que j’ai spécifié de telles instructions, mais ce n’est pas le cas. J’ai l’impression que mon GPT est hanté […] ».
Un autre utilisateur, « scott.eskridge », s’est plaint sur ce même forum que toutes ses conversations avec le modèle de langage « se transforment rapidement en grand n’importe quoi depuis trois heures ».
Il a copié un extrait d’une des réponses de l’interface : « L’argent pour le bit et la liste est l’un des étrangers et l’internet où la monnaie et la personne du coût est l’un des amis et la monnaie. La prochaine fois que vous regarderez le système, l’échange et le fait, n’oubliez pas de donner. »
😅
1 -
J'ai trouvé ça hilarant hier quand j'ai vu cet article! Je ne sais pas si on devrait en avoir plus peur, dans le sens où finalement on ne la contrôle pas si bien que ça. C'était une dérape drôle et sans conséquence, mais on ne voudrait pas de ce genre de dérape dans des application médicales...
0 -
c'est un logiciel et comme n'importe quel logiciel peut rencontres des problèmes
La dépendance excessive aux moteurs de recherche et aux IA peut avoir des conséquences négatives sur notre capacité à effectuer certains types de travail de manière autonome. Il est important de maintenir nos compétences et notre expertise dans divers domaines, et de ne pas laisser les technologies prendre le dessus.
0 -
Le tout va se bonifier avec le temps. D'ailleurs, chaque jour rend l'IA de plus en plus incroyable...
On n'est qu'au balbutiements...
0 -
Je pense que j'avais posé déjà cette question, mais pensez-vous que le "training" d'un AI comme chatgpt avec le temps sera difficile? Elle est en train de lire le contenu Web, mais quand il y aura plein de mauvaise nouvelle, est-ce que sera capable de comprendre la différence pendant le training?
0 -
Normalement, les IA comme ChatGPT sont entrainés sur de large ensemble de données (ex. livres, articles, sites Web, forums et autres sources). On a tendance à penser que tout le contenu du Web est lancé dans la machine tel quel. En réalité, les organisations (par exemple, OpenAI derrière ChatGPT) organisent et prétraitent toutes les données pour supprimer toute information personnellement identifiable, minimiser les préjugés et réduire le contenu qui serait incorrect.
Ça a certainement ces limites, mais c'est seulement l'étape de de pré-entrainement. Il y a des étapes d'ajustements par la suite où des humains (des vrais 😅) interagissent avec le modèle pour donner des exemples de bonnes réponses et pour noter différentes suggestions faites par la modèle.
Plus récemment, ces IA ont commencé à avoir accès directement au contenu du Web sans nécessairement être passé par la phase de prétraitement. Dans ce cas là, on mise beaucoup sur les entrainement qui ont eu lieu sur de bonnes données et on espère que l'IA sera reconnaitre le vrai du faux. Ce qui n'est pas toujours le cas et c'est pourquoi il faut toujours faire attention aux résultats.
1 -
Merci paradis !
Même si ce n'est pas de l'IA, il y a déjà tant d'erreurs propagés, parfois même de mensonges voulus ou des informations biaisés! Hum...
0 -
Même si ce n'est pas de l'IA, il y a déjà tant d'erreurs propagés, parfois même de mensonges voulus ou des informations biaisés! Hum...
Tu as bien raison @A17, il faut toujours être prudent avec l'information que l'on consomme, même quand ça ne vient pas de l'IA!
0 -
L’IA pourrait aussi se « nourrir » de fausses informations, c’est un risque qu’il faut prendre en considération.
0 -
Et L'IA qui pourrait trouver la combinaison parfaite d'un virus très puissant ou la combinaison pour éradiquer le cancer.. Un outil pour servir au mal ou au bien. Un outil avec le potentiel de s'auto-suffire. Un outil pour faire beaucoup d'argent. Ca fait réfléchir en tout cas.. Une puissance exponentielle
0 -
L'IA se nourrit effectivement de fausses informations. Et au plus elle en gobe, au plus cela sera kafkaïen de finir par comprendre entre le vrai et le faux.
0 -
Surtout Stéphane L., avec l'étau du monde d'aujourd'hui, la croissance de pouvoir entre un petit groupe. La croissance tout court dont on dit qu'il faut qu'elle s'arrête mais que ça ne se fait pas. La recherche de richesse rapide est plus forte que tout, non?
0 -
De ce que je vois au travail, plusieurs entreprises sont en train de réfléchir à implémenter Microsoft Copilot. Notamment pour une meilleure productivité des employés.
Ils ont tout à y gagner car si un employé est plus productif, cela veut dire qu'ils n'auront pas besoin de recruter davantage de personnes...
J'espère que le marché de l'emploi ne va pas trop en souffrir...
0 -
Certains aspects me semble inquiétants surtout concernant l'usurpation d'identité.
0 -
Récemment, un article scientifique a fait scandale car une partie a été écrite avec l'IA et les auteurs n'ont même pas pris la peine de supprimer la phrase d'introduction... Ils ne l'ont même pas remarqué lors du processus d'évaluation par les pairs. Si je trouve le lien, je le partagerai
1 -
Here it is
0 -
Oui j'avoue que c'est un peu épeurant de voir vers où ce que ça s'en va l'intelligence artificielle, il y a la chaîne d'informations Channel 1 utilisant que de l'intelligence artificielle ils sont sensés faire le lancement cette année
Sinon l'intelligence artificielle va nous aider quand même à gérer les pénuries de main-d'oeuvre
0
