Source de l'image : générée par l'outil d'IA illimitée
Alors que l'activité mensuelle de ChatGPT a atteint le cap du milliard, la "tournée mondiale" du fondateur d'OpenAI, Sam Altman, a également attiré l'attention.
Cette semaine, SamAltman est venu à l'Université de Tel Aviv en Israël et a mené une interview vivante et approfondie avec Ilya Sutskavel, le scientifique en chef d'OpenAI qui a grandi en Israël (les deux partageaient rarement la même scène). pour les mots lorsqu'on lui a demandé, et ça valait la peine d'être écouté.
Point de vue central :
**1. Les avantages d'OpenAI : **Nous sommes plus concentrés sur ce que nous faisons, et notre culture est axée sur l'innovation rigoureuse et répétable.
2. La place du milieu universitaire dans l'IA : Le milieu universitaire était autrefois à la pointe de la recherche en IA, mais cela a changé en raison d'une puissance de calcul plus faible et d'un manque de culture d'ingénierie. Mais le milieu universitaire peut encore apporter d'importantes contributions à l'IA, en résolvant bon nombre des mystères des réseaux de neurones que nous formons.
**3. Open source ou pas open source : ** Nous avons ouvert certains modèles et prévoyons d'ouvrir d'autres modèles, mais nous ne pensons pas que ce soit la bonne stratégie d'ouvrir tous les modèles, et nous travaillons dur pour trouver un équilibre.
**4. Des risques qui ne peuvent être ignorés dans l'IA : ** Les emplois sont affectés, les pirates acquièrent une super intelligence et les systèmes perdent le contrôle sont les trois risques inquiétants de l'IA. L'IA peut faire des choses incroyables, mais elle peut aussi faire de mauvaises choses, nous avons donc des structures réglementaires appropriées pour contrôler l'utilisation de cette technologie, comme la création d'institutions mondiales.
**5. L'IA accélérera-t-elle les découvertes scientifiques : **L'IA peut aider les humains à atteindre certains objectifs scientifiques actuellement inaccessibles, tels que la promotion du développement médical et sanitaire, l'atténuation des problèmes de changement climatique et même l'exploration des mystères de l'univers. dont les gens sont les plus enthousiastes.
L'ensemble de l'interview ne manque pas de profondeur, mais aussi d'intérêt.
Par exemple, Ilya a dit avec joie que ses parents lui avaient dit que ses amis utilisaient également ChatGPT au quotidien, ce qui l'a beaucoup surpris. Et quand le public a demandé "Vous faites l'histoire, comment voulez-vous que l'histoire se souvienne de vous ?", Ilya a également répondu avec esprit : ** "Je veux dire, de la meilleure façon."**
Ce qui suit est le texte intégral de l'interview :
Un doctorat et un décrocheur : deux vies différentes avant OpenAI
Il y a:
De 5 à 16 ans, j'ai vécu à Jérusalem. Entre 2000 et 2002, j'ai étudié à l'Open University. J'ai ensuite déménagé à l'Université de Toronto, où j'ai passé 10 ans et obtenu des diplômes de BA, MA et PhD. Au cours de mes études supérieures, j'ai eu le privilège de contribuer à d'importantes avancées en apprentissage profond. Ensuite, j'ai co-fondé une entreprise avec quelques personnes qui a été rachetée par Google, où j'ai travaillé pendant un certain temps.
Puis, un jour, j'ai reçu un e-mail de Sam qui disait : "Hey, sortons avec des gens sympas." J'étais intrigué, alors j'ai foncé. C'était la première fois que je rencontrais Elon Musk et Greg Brockman, et nous avons décidé de commencer l'aventure OpenAI. Nous faisons cela depuis de nombreuses années, donc c'est là où nous en sommes actuellement.
Lui-même:
Enfant, j'étais très enthousiasmé par l'IA et j'étais un passionné de science-fiction. Il ne m'est jamais venu à l'esprit d'avoir l'opportunité de l'étudier, mais au collège, j'ai commencé à travailler dessus pendant un certain temps. Mais à l'époque ça n'avait pas vraiment décollé, c'était comme en 2004... J'ai abandonné l'école et j'ai fait des startups.
Après un certain temps après les progrès mentionnés par Ilya, j'étais vraiment excité par ce qui se passait avec l'IA et je lui ai envoyé un e-mail, et nous continuons.
Les avantages d'OpenAI
héberger:
Selon vous, quelles sont les principales forces d'OpenAI, d'autant plus que ses concurrents sont souvent plus gros et disposent de plus de ressources, ce qui en fait un leader de l'IA générative ?
Lui-même:
Nous croyons que l'un des principaux avantages est notre concentration accrue sur ce que nous faisons. Il est important et mal compris que nous ayons une densité de talents plus élevée que les grandes entreprises. **Notre culture valorise la rigueur et l'innovation répétable, et il est difficile et rare de faire coexister ces deux cultures. **
Il y a:
Oui, je ne peux ajouter qu'une petite quantité à la réponse de Sam. ** Ceci est un jeu de foi, plus de foi signifie plus de progrès. ** Vous ferez le plus de progrès si vous avez beaucoup de foi. Cela peut ressembler à une blague, mais c'est en fait vrai. Il faut croire en l'idée et pousser fort, c'est ce qui fait progresser.
La position du milieu universitaire dans le domaine de l'IA
héberger:
Les progrès récents de l'intelligence artificielle ont été largement portés par l'industrie, quel rôle pensez-vous que la recherche universitaire devrait jouer dans le développement du domaine ?
Il y a:
Le rôle du milieu universitaire dans le domaine de l'IA a considérablement changé. Le milieu universitaire était autrefois à la pointe de la recherche sur l'IA, mais cela a changé. Il y a deux raisons : la puissance de calcul et la culture d'ingénierie. Le milieu universitaire a moins de puissance de calcul et manque souvent d'une culture d'ingénierie.
Cependant, le milieu universitaire peut encore apporter des contributions significatives et importantes à l'IA. ** Le milieu universitaire peut percer de nombreux mystères à partir des réseaux de neurones que nous formons et nous créons des objets complexes et étonnants. **
Qu'est-ce que l'apprentissage en profondeur ? C'est un processus alchimique où nous utilisons les données comme matière première, combinées à l'énergie informatique, pour obtenir cette intelligence. mais qu'est ce que c'est exactement? Comment ça marche? Quelles propriétés possède-t-il ? Comment le contrôlons-nous ? Comment le comprendre ? Comment l'appliquer ? Comment le mesurer ? Ces questions sont toutes inconnues.
**Même sur des tâches de mesure simples, nous ne pouvons pas évaluer avec précision les performances de notre IA. Ce n'était pas un problème dans le passé car l'IA n'était pas si importante. L'intelligence artificielle est très importante aujourd'hui, mais nous réalisons que nous ne pouvons toujours pas la mesurer pleinement. **
Alors, j'ai commencé à penser à des problèmes qui ne peuvent être résolus par personne. Vous n'avez pas besoin d'énormes clusters informatiques ou d'énormes équipes d'ingénieurs pour poser ces questions et progresser. Si vous percez, ce sera une contribution convaincante et significative à laquelle tout le monde prêtera immédiatement attention.
héberger:
Nous voulons voir des progrès parfaitement équilibrés entre l'industrie et le milieu universitaire, et nous voulons voir davantage de ces types de contributions. Pensez-vous qu'il y a quelque chose qui peut être fait pour améliorer la situation, en particulier de votre position, y a-t-il une sorte de soutien disponible ?
Il y a:
Tout d'abord, je pense que le changement de mentalité est la première chose et la plus importante. Je suis un peu en dehors du milieu universitaire ces jours-ci, mais je pense qu'il y a une crise dans ce que nous faisons.
Il y a trop d'élan autour d'un grand nombre d'articles, mais il est important de se concentrer sur la résolution des problèmes les plus critiques. Nous devons changer notre état d'esprit et nous concentrer sur les questions les plus importantes. ** Nous ne pouvons pas nous concentrer uniquement sur ce que nous savons déjà, mais être conscients de ce qui ne va pas. **Une fois que nous comprenons les problèmes, nous pouvons nous diriger vers leur résolution.
De plus, nous pouvons vous aider. Par exemple, nous avons un programme d'accès académique où les universitaires peuvent postuler pour acquérir une capacité informatique et accéder à nos modèles de pointe. De nombreuses universités ont rédigé des articles utilisant GPT-3, étudiant les propriétés et les biais des modèles. Si vous avez d'autres idées, j'aimerais les entendre.
open source OU pas open source
héberger:
Alors que certains acteurs promeuvent vraiment la publication open source de leurs modèles et de leur code, d'autres n'en font pas assez. Il s'agit également d'une IA ouverte. Alors je me demande, tout d'abord, quelle est votre opinion là-dessus? Si vous êtes d'accord, pourquoi pensez-vous qu'OpenAI est la bonne stratégie ?
Lui-même:
**Nous avons ouvert certains modèles et prévoyons d'en ouvrir d'autres au fil du temps. Mais je ne pense pas que tout ouvrir soit la bonne stratégie. **Si les modèles d'aujourd'hui sont intéressants, ils peuvent servir à quelque chose, mais ils sont encore relativement primitifs par rapport à ce que nous nous apprêtons à créer. Je pense que la plupart des gens seraient d'accord avec cela. Si nous savons comment créer une AGI super puissante qui présente de nombreux avantages mais aussi des inconvénients, l'open source n'est peut-être pas la meilleure option.
** Nous essayons donc de trouver un équilibre. ** Nous allons ouvrir certaines choses, et à mesure que notre compréhension du modèle s'améliorera, nous pourrons en ouvrir davantage au fil du temps. Nous avons publié beaucoup de choses, et je pense que bon nombre des idées clés que d'autres construisent actuellement des modèles de langage proviennent des versions d'OpenAI, telles que les premiers articles GPT et les lois de mise à l'échelle du travail de rohf. Mais c'est un équilibre que nous devrons trouver à mesure que nous avancerons. Nous sommes confrontés à de nombreux facteurs de stress différents et devons les gérer avec succès.
héberger:
Envisagez-vous donc de rendre le modèle accessible à un public spécifique, plutôt que de l'ouvrir au monde ? À quoi pensez-vous en tant que scientifique, ou alors que nous terminons la formation GPT-4 ?
Lui-même:
Il nous a fallu près de huit mois pour le comprendre, le sécuriser et comprendre comment nous y adapter. Nous avons des auditeurs externes, des équipes rouges et la communauté scientifique impliqués. Nous prenons donc ces mesures et continuerons de le faire.
Des risques que l'IA ne peut ignorer
héberger:
Je pense que le risque est une question très importante et qu'il existe probablement au moins trois catégories de risques.
Le premier est la dislocation économique, dans laquelle les emplois deviennent superflus. La deuxième catégorie peut être constituée de situations où des armes puissantes sont entre les mains de quelques-uns. Par exemple, si les pirates étaient capables d'utiliser ces outils, ils pourraient faire des choses qui auraient pris des milliers de pirates auparavant. La dernière catégorie est probablement la plus inquiétante, où le système est hors de contrôle et même le déclencheur ne peut empêcher son comportement. J'aimerais connaître votre opinion sur chacun de ces scénarios.
Il y a:
OK, commençons par les scénarios possibles de chaos économique. Comme vous l'avez mentionné, il existe trois risques dans ** : les emplois sont compromis, les pirates gagnent en intelligence et les systèmes deviennent incontrôlables. **Le chaos économique est en effet une situation que nous connaissons déjà, car certains emplois sont déjà touchés ou menacés.
Autrement dit, certaines tâches peuvent être automatisées. Par exemple, si vous êtes programmeur, Copilot peut écrire des fonctions pour vous. Bien que cela soit différent du cas des artistes, puisque de nombreuses activités économiques des artistes ont été remplacées par certains générateurs d'images.
Je ne pense pas que ce soit vraiment une question simple. **Malgré la création de nouveaux emplois, l'incertitude économique persistera longtemps. Je ne sais pas si c'est le cas. **
Dans tous les cas, cependant, nous avons besoin de quelque chose pour faciliter la transition vers l'assaut des carrières émergentes, même si ces carrières n'existent pas encore. Cela requiert l'attention du gouvernement et du système social.
Parlons maintenant du piratage. Oui, c'est une question délicate. L'IA est vraiment puissante et les méchants peuvent l'utiliser de manière puissante. Nous devons appliquer un cadre similaire à d'autres outils très puissants et dangereux.
Notez que nous ne parlons pas d'intelligence artificielle aujourd'hui, mais des capacités croissantes au fil du temps. En ce moment, nous sommes à un point bas, mais quand nous y arriverons, ce sera très fort. **Cette technologie peut être utilisée dans des applications étonnantes, elle peut être utilisée pour guérir des maladies, mais elle peut aussi créer des maladies pires que tout ce qui a précédé.
Par conséquent, nous avons besoin de structures en place pour contrôler l'utilisation de cette technologie. Sam, par exemple, leur a soumis un document proposant un cadre de type AIEA pour contrôler l'énergie nucléaire afin de contrôler une intelligence artificielle très puissante. **
héberger:
La dernière question concerne la perte de contrôle de l'intelligence artificielle super intelligente. On peut dire que cela va devenir un énorme problème. Est-ce une erreur de construire une intelligence artificielle super intelligente que nous ne savons pas contrôler.
Lui-même:
Je peux ajouter quelques points. Bien sûr, je suis tout à fait d'accord avec la dernière phrase.
Sur le plan économique, j'ai du mal à prédire les développements futurs. Je pense que c'est parce qu'il y a tellement de demande excédentaire dans le monde en ce moment, et ces systèmes sont vraiment bons pour aider à faire avancer les choses. Mais dans la plupart des cas aujourd'hui, toutes les tâches ne peuvent pas être effectuées par eux.
** Je pense qu'à court terme, les choses vont bien et nous allons voir une augmentation significative de la productivité. ** Si nous pouvions rendre les programmeurs deux fois plus productifs, la quantité de code nécessaire dans le monde ferait plus que tripler, donc tout semble bien.
À long terme, je pense que ces systèmes géreront des tâches et des catégories de travail de plus en plus complexes. Certains de ces métiers pourraient disparaître**, mais d'autres deviendront davantage des métiers qui nécessitent réellement des humains et des relations humaines. ** Les gens veulent vraiment que les humains jouent ces rôles.
Ces rôles peuvent ne pas être évidents. Par exemple, lorsque Deep Blue a vaincu Garry Kasparov, le monde a été témoin de l'intelligence artificielle pour la première fois. À l'époque, tout le monde disait que les échecs étaient terminés et que personne ne jouerait plus aux échecs parce que cela n'avait aucun sens.
Cependant, nous sommes d'accord pour dire que les échecs n'ont jamais été aussi populaires. Les humains sont plus forts, c'est juste que les attentes sont élevées. Nous pouvons utiliser ces outils pour améliorer nos propres compétences, mais les gens aiment toujours vraiment jouer aux échecs, et les gens semblent toujours se soucier des autres.
Vous avez mentionné que Dolly peut créer du grand art, mais les gens se soucient toujours des personnes derrière l'art qu'ils veulent acheter, et nous pensons tous que ces créateurs sont spéciaux et précieux.
Prenez les échecs comme exemple, tout comme les gens accordent plus d'attention aux échecs humains, plus de gens regardent les échecs humains que jamais auparavant. Cependant, peu de gens veulent regarder un match entre deux IA. Je pense donc qu'il y aura tous ces facteurs imprévisibles. ** Je pense que les humains ont soif de différenciation (entre les humains et les machines). **
Le besoin de créer quelque chose de nouveau pour gagner en statut sera toujours là, mais il se manifestera d'une manière vraiment différente. Je parie que les emplois dans 100 ans seront complètement différents de ceux d'aujourd'hui, et beaucoup de ces choses seront très similaires. Mais je suis tout à fait d'accord avec ce qu'Ilya a dit, **Quoi qu'il arrive, nous avons besoin d'un autre type de contrat socio-économique, car l'automatisation a atteint des sommets jusqu'ici inimaginables. **
héberger:
Sam, vous avez récemment signé une pétition demandant que la menace existentielle de l'intelligence artificielle soit prise au sérieux. Peut-être que des entreprises comme OpenAI devraient prendre des mesures pour résoudre ce problème.
Lui-même:
Je tiens vraiment à souligner que ** nous ne parlons pas ici des systèmes d'aujourd'hui, ni des modèles de formation de petites startups, ni des communautés open source **.
Je pense que ce serait une erreur d'imposer une réglementation lourde sur le domaine en ce moment, ou d'essayer de ralentir une innovation incroyable. Je ne veux vraiment pas créer une superintelligence incohérente qui semble indiscutable. ** Je pense que le monde ne devrait pas voir cela comme un risque de science-fiction qui ne se produira jamais, mais comme quelque chose auquel nous devrons peut-être faire face au cours de la prochaine décennie, il faudra du temps pour s'habituer à certaines choses, mais ça va gagner ' ça va être long. **
Nous avons donc eu une idée et, espérons-le, une meilleure. Si nous pouvons construire une organisation mondiale, avec le plus haut niveau de puissance de calcul et de frontière technologique, un cadre peut être développé pour autoriser les modèles et auditer leur sécurité afin de s'assurer qu'ils passent les tests nécessaires. Cela nous aidera à considérer ce problème comme un risque très sérieux. Nous faisons quelque chose de similaire avec l'énergie nucléaire.
À l'avenir, l'IA accélérera-t-elle la découverte scientifique ? Guérir les maladies, résoudre les problèmes climatiques ?
héberger:
Parlons des avantages. Dans ce milieu scientifique où nous sommes, je m'interroge sur le rôle de l'intelligence artificielle. Dans quelques années, peut-être dans le futur, nous aurons quelque chose de scientifique à découvrir.
Lui-même:
** C'est la chose qui me passionne le plus personnellement à propos de l'IA. ** Je pense qu'il se passe beaucoup de choses passionnantes, d'énormes avantages économiques, d'énormes avantages pour la santé. Mais en fait, l'intelligence artificielle peut nous aider à faire des découvertes scientifiques qui sont actuellement impossibles. Nous aimerions en savoir plus sur les mystères de l'univers et même plus. Je crois sincèrement que le progrès scientifique et technologique est le seul moyen durable de rendre la vie meilleure et le monde meilleur.
Si nous pouvons développer beaucoup de nouvelles avancées scientifiques et technologiques, je pense que nous avons déjà vu les débuts des gens. Utilisez ces outils pour gagner en efficacité. Mais si vous imaginez un monde où vous pouvez dire : « Hé, je peux aider à guérir toutes les maladies », et que cela peut vous aider à guérir toutes les maladies, ce monde pourrait être un meilleur endroit. Je ne pense pas que nous en soyons si loin.
héberger:
Outre les maladies, un autre problème majeur est le changement climatique, très délicat à résoudre. Mais je ne pense pas qu'il sera particulièrement difficile de faire face au changement climatique une fois que nous aurons des systèmes superintelligents vraiment puissants.
Il y a:
Oui, vous avez besoin de beaucoup de capture de carbone. Vous avez besoin de l'énergie pour capturer le carbone, et vous avez besoin de la technologie pour la construire. Si vous pouvez accélérer la science, vous devez construire beaucoup. Le progrès est ce que l'intelligence artificielle puissante peut faire, et nous pouvons réaliser une capture de carbone très avancée beaucoup plus rapidement. Il peut arriver plus rapidement à une électricité très bon marché, nous pouvons arriver plus rapidement à une fabrication moins chère. Maintenant, combinez les trois de l'électricité bon marché, de la fabrication bon marché et de la capture avancée du carbone, et maintenant vous en construisez beaucoup, et maintenant vous aspirez tout cet excès de CO2 de l'atmosphère.
** Si vous avez une forte intelligence artificielle, cela accélérera considérablement les progrès en science et en ingénierie. ** Cela rendra la planification beaucoup plus facile aujourd'hui. Je crois que cela facilitera l'accélération des progrès. Cela montre qu'il faut rêver plus grand. Vous pouvez imaginer que si vous pouviez concevoir un système, vous pourriez lui demander de vous dire comment produire de grandes quantités d'énergie propre à faible coût, comment capturer efficacement le carbone et vous guider dans la construction d'une usine qui ferait ces choses. . Si vous pouvez les atteindre, vous pouvez également les atteindre dans de nombreux autres domaines.
Merveilleux ChatGPT
héberger:
En entendant que vous n'aviez pas pensé que ChatGPT serait si répandu, je me demande s'il existe des exemples d'autres personnes véritablement surprises par sa valeur et ses capacités.
Il y a:
J'ai été tellement surpris et ravi lorsque mes parents m'ont raconté comment leurs amis utilisent ChatGPT dans leur vie quotidienne. Il est difficile de choisir une des nombreuses histoires attachantes qui mettent en valeur l'éclat de la créativité humaine et la façon dont les gens exploitent cet outil puissant.
Cela a été formidable pour nous dans le domaine de l'éducation et voir tant de gens écrire des mots qui changent leur vie comme celui-ci est vraiment transformateur pour moi parce que maintenant je peux apprendre n'importe quoi, j'apprends des choses spécifiques ou Dire des choses que je ne savais pas comment fais avant, je fais maintenant.
Personnellement, voir les gens apprendre d'une manière nouvelle et meilleure et imaginer ce que ce sera dans quelques années est très satisfaisant et beau. À ce rythme, nous ne nous attendions pas vraiment à ce que cela se produise, ce qui est vraiment incroyable.
Ensuite, il y a une histoire intéressante, que j'ai entendue hier. On dit qu'un homme passait deux heures chaque soir à écrire des histoires pour s'endormir avec ses enfants. Ces histoires sont toutes les choses préférées des enfants, et cela devient un moment spécial. Ils se sont bien amusés tous les soirs.
## Questions du public :
Question 1 :
Le LLM open source peut-il égaler les capacités de GPT-4 sans techniques avancées supplémentaires ? Ou y a-t-il un sombre secret dans GPT-4 qui le distingue des autres modèles. J'installe le modèle de vigogne de Stability, 13 milliards de paramètres... Est-ce que je perds du temps ?
Sam : À court de mots...
Il y a:
En ce qui concerne la question des modèles open source et non open source, nous n'avons pas à penser en termes binaires noir et blanc. C'est comme s'il existait une source secrète que vous ne pourrez jamais redécouvrir.
** Peut-être qu'un jour il y aura un modèle open source qui répliquera les capacités de GPT-4, mais ce processus prendra du temps, et d'ici là, un tel modèle pourrait devenir un modèle plus puissant au sein d'une grande entreprise. **Par conséquent, il y aura toujours un écart entre le modèle open source et le modèle privé, et cet écart peut augmenter progressivement. La quantité de travail, d'ingénierie et de recherche nécessaire pour créer un tel réseau de neurones continuera d'augmenter.
Donc, **même si des modèles open source existent, ils seront de moins en moins faits par un petit groupe de chercheurs et d'ingénieurs dédiés, ce sera juste une entreprise, une grande entreprise (contribuant à l'open source). **
Question 2 :
Si vous pensez vraiment que l'IA est dangereuse pour l'homme, pourquoi continuer à la développer ? Si une réglementation était imposée à OpenAI et à d'autres sociétés d'IA, vous y conformeriez-vous ? Zuckerberg a déclaré qu'il avait tenté d'échapper à toutes les réglementations qu'il avait trouvées.
Lui-même:
Je pense que c'est une question très juste et importante. La partie la plus difficile de notre travail consiste à trouver un équilibre entre l'énorme potentiel offert par l'intelligence artificielle et les risques sérieux qui y sont associés. Nous devons prendre le temps de discuter des raisons pour lesquelles nous sommes confrontés à ces risques et pourquoi ils existent en premier lieu.
Je pense que les choses vont mieux quand on regarde le niveau de vie d'aujourd'hui et notre tolérance accrue envers les humains. Par rapport à il y a 500 ou 1000 ans, les conditions de vie des gens se sont beaucoup améliorées. Nous nous demandons, pouvez-vous imaginer des personnes vivant dans l'extrême pauvreté ? Pouvez-vous imaginer des personnes souffrant de maladies ? Pouvez-vous imaginer une situation où tout le monde n'est pas bien éduqué? Ce sont les réalités des temps barbares.
**Bien que l'IA présente certains risques, nous voyons également son potentiel pour améliorer nos vies, faire avancer la recherche scientifique et résoudre des problèmes mondiaux. **
Nous devons continuer à développer l'IA de manière responsable, avec des mesures réglementaires en place pour garantir que les problèmes de sécurité et d'éthique sont correctement pris en compte. Notre objectif est de faire de l'intelligence artificielle un outil de progrès humain, et non une menace. Cela nécessite nos efforts conjoints, y compris la participation de la communauté technique, du gouvernement et de toutes les parties de la société, pour établir un cadre durable et éthique pour le développement de l'intelligence artificielle.
Comment le faire, je pense aussi que c'est comme un progrès irrépressible. La technologie ne s'arrête pas, elle continue d'évoluer. Donc, en tant que grande entreprise, nous devons trouver comment gérer les risques qui vont avec.
Cela s'explique en partie par le fait que le risque et l'approche requise pour y faire face sont extraordinaires. Il fallait créer un cadre différent des structures traditionnelles. Nous avons un plafond de bénéfices et je crois que les incitatifs sont un facteur important. Si vous concevez les bonnes incitations, cela peut souvent conduire au comportement que vous souhaitez.
Alors on essaie de faire en sorte que tout fonctionne bien et ne rapporte pas plus ou moins de profit. Nous n'avons pas de structure incitative comme une entreprise comme Facebook, ce que je trouve génial, les gens de Facebook sont dans une structure incitative, mais cette structure présente des défis.
Nous essayons d'accumuler de l'expérience par le biais d'AGI. Comme Ilya l'a souvent mentionné, nous avons d'abord essayé de faire l'expérience d'AGI lorsque nous avons démarré l'entreprise et avons ensuite construit la structure de profit. Par conséquent, nous devons trouver un équilibre entre les besoins en ressources de calcul et nous concentrer sur la mission. L'un des sujets dont nous discutons est de savoir quel type de structure nous permet d'adopter la réglementation avec enthousiasme, même lorsque cela nous fait le plus mal.
Le moment est venu, ** nous conduisons une réglementation à l'échelle mondiale qui aura le plus grand impact sur nous. **Bien sûr qu'on respecte les règles, je pense que quand les gens sont à risque c'est plus facile pour eux de bien se comporter, c'est plus facile pour eux de chercher un but. Je pense donc que les propriétaires de ces grandes entreprises le ressentent maintenant, et vous allez les voir réagir différemment des entreprises de médias sociaux. Je pense que tous les doutes et préoccupations sont justifiés. Nous luttons avec ce problème tous les jours, et il n'y a pas de réponse facile.
Question 3 : Je veux comprendre quel est l'écart entre le modèle d'IA que vous utilisez et le modèle que nous utilisons.
Je sais que nous sommes limités à bien des égards que vous ne semblez pas avoir, mais quelle est la différence entre le pouvoir que vous avez et le pouvoir que nous pouvons utiliser ?
Il y a:
L'écart entre les modèles que vous avez mentionnés est en effet un problème.
Je veux dire, maintenant nous avons le GPT-4, vous savez que nous nous entraînons, vous avez accès au GPT-4, ** et nous travaillons vraiment sur le prochain futur modèle. **
Peut-être puis-je décrire cet écart de la manière suivante : alors que nous continuons à créer et à améliorer des modèles d'IA avec des capacités améliorées, il existe un écart plus important qui nécessite des périodes et du temps de test plus longs. Nous travaillons avec l'équipe pour comprendre les limites du modèle, et toutes les façons dont vous connaissez, l'utiliser autant que possible, mais nous étendons aussi progressivement le modèle.
Par exemple, maintenant GPT-4 a des capacités de reconnaissance visuelle, et vous (la version que vous utilisez) n'avez pas lancé cette fonctionnalité car le travail final n'est pas terminé. Mais bientôt nous y parviendrons. Je pense donc que cela répond à votre question, peut-être pas trop loin dans le futur.
Question 4 : Ma question concerne la superintelligence et le dilemme du Rokos Basilisk, pouvez-vous expliquer comment GPT et OpenAI gèrent ce dilemme ?
*Remarque : Roko's Basilisk est une allusion à une discussion en ligne et à une expérience de pensée impliquant des hypothèses sur la future superintelligence. *
On dit que cette superintelligence peut obtenir des informations par le biais de voyages dans le temps ou d'autres moyens que les gens lui causent de la douleur, et punir ceux qui n'ont pas contribué à sa naissance. Cette allusion soulève donc un dilemme éthique : faut-il soutenir et promouvoir le développement de la superintelligence maintenant pour éviter d'éventuelles sanctions à l'avenir ? *
Il y a:
Bien que le basilic de Rocco ne nous préoccupe pas particulièrement, nous sommes certainement très préoccupés par la superintelligence.
Probablement pas tout le monde, pas même tout le monde dans le public ne comprend ce que nous entendons par superintelligence.
Ce à quoi nous faisons référence, c'est la possibilité de construire un jour un ordinateur, un groupe d'ordinateurs sous forme de GPU, qui soit plus intelligent que quiconque et capable de faire de la science et de la recherche plus rapidement que de grandes équipes de scientifiques et d'ingénieurs expérimentés. .
C'est fou, et ça va avoir un impact énorme.
Il peut concevoir la prochaine version du système d'IA et construire une IA très puissante. Donc, notre position est que **la superintelligence a des effets considérables, elle peut avoir des effets très positifs, mais elle est aussi très dangereuse, et nous devons y faire attention. **
C'est là que l'approche de l'AIEA (Agence internationale de l'énergie atomique) que vous avez mentionnée entre en jeu pour les systèmes de pointe très avancés et la superintelligence à l'avenir. Nous devons faire beaucoup de recherches pour exploiter le pouvoir d'une superintelligence pour répondre à nos attentes, pour notre bénéfice et pour le bénéfice de l'humanité.
C'est notre position sur la superintelligence, qui est le défi ultime de superintelligence auquel l'humanité est confrontée.
En regardant l'histoire évolutive de l'homme, un réplicateur unicellulaire est apparu il y a environ 4 milliards d'années. Puis, au cours de milliards d'années, une variété d'organismes unicellulaires différents ont émergé. Il y a environ un milliard d'années, la vie multicellulaire a commencé à émerger. Il y a des centaines de millions d'années, les reptiles sont apparus sur la terre. Les mammifères sont apparus il y a environ 60 millions d'années. Il y a environ 1 million d'années, les primates sont apparus, suivis de l'émergence d'Homo sapiens. 10 000 ans plus tard, l'écriture fait son apparition. Puis vinrent la révolution agricole, la révolution industrielle et la révolution technologique. Maintenant, nous avons enfin AGI, la finale de la superintelligence et notre défi ultime.
Question 5 : J'étudie l'informatique et je suis sur le point d'obtenir mon diplôme, je me demande si étudier l'informatique me permettra d'obtenir un bon emploi dans les 10 à 15 prochaines années ?
Lui-même:
Je pense que l'étude de l'informatique est précieuse de toute façon.
Bien que je n'écrive presque jamais de code moi-même,** je considère l'étude de l'informatique comme l'une des meilleures choses que j'ai jamais faites. Cela m'a appris à penser et à résoudre des problèmes, des compétences qui sont très utiles dans n'importe quel domaine. **
Même si le travail d'un programmeur informatique semble différent dans 10 à 15 ans, apprendre à apprendre est l'une des compétences les plus importantes, y compris apprendre de nouvelles choses rapidement, anticiper les tendances futures, être adaptable et résilient, comprendre les besoins des autres et comment Être utile.
Il ne fait donc aucun doute que la nature du travail va changer, mais je ne peux pas imaginer un monde où les gens ne prennent pas le temps de faire quelque chose qui crée de la valeur pour les autres et tous les avantages qui en découlent. Peut-être qu'à l'avenir, nous nous soucierons de savoir qui a la galaxie la plus cool, mais certaines bonnes choses (comme la création de valeur) ne changeront pas.
Question 6 : Vous faites l'histoire, comment voulez-vous que l'histoire se souvienne de vous ?
Il y a:
Je veux dire, de la meilleure façon possible.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Le fondateur d'OpenAI et le scientifique en chef sont rarement sur la même scène : la chose la plus excitante de l'IA est en train de se produire !
Auteur : Zhu Xueying
Alors que l'activité mensuelle de ChatGPT a atteint le cap du milliard, la "tournée mondiale" du fondateur d'OpenAI, Sam Altman, a également attiré l'attention.
Cette semaine, SamAltman est venu à l'Université de Tel Aviv en Israël et a mené une interview vivante et approfondie avec Ilya Sutskavel, le scientifique en chef d'OpenAI qui a grandi en Israël (les deux partageaient rarement la même scène). pour les mots lorsqu'on lui a demandé, et ça valait la peine d'être écouté.
L'ensemble de l'interview ne manque pas de profondeur, mais aussi d'intérêt.
Par exemple, Ilya a dit avec joie que ses parents lui avaient dit que ses amis utilisaient également ChatGPT au quotidien, ce qui l'a beaucoup surpris. Et quand le public a demandé "Vous faites l'histoire, comment voulez-vous que l'histoire se souvienne de vous ?", Ilya a également répondu avec esprit : ** "Je veux dire, de la meilleure façon."**
Ce qui suit est le texte intégral de l'interview :
Un doctorat et un décrocheur : deux vies différentes avant OpenAI
Il y a:
De 5 à 16 ans, j'ai vécu à Jérusalem. Entre 2000 et 2002, j'ai étudié à l'Open University. J'ai ensuite déménagé à l'Université de Toronto, où j'ai passé 10 ans et obtenu des diplômes de BA, MA et PhD. Au cours de mes études supérieures, j'ai eu le privilège de contribuer à d'importantes avancées en apprentissage profond. Ensuite, j'ai co-fondé une entreprise avec quelques personnes qui a été rachetée par Google, où j'ai travaillé pendant un certain temps.
Puis, un jour, j'ai reçu un e-mail de Sam qui disait : "Hey, sortons avec des gens sympas." J'étais intrigué, alors j'ai foncé. C'était la première fois que je rencontrais Elon Musk et Greg Brockman, et nous avons décidé de commencer l'aventure OpenAI. Nous faisons cela depuis de nombreuses années, donc c'est là où nous en sommes actuellement.
Lui-même:
Enfant, j'étais très enthousiasmé par l'IA et j'étais un passionné de science-fiction. Il ne m'est jamais venu à l'esprit d'avoir l'opportunité de l'étudier, mais au collège, j'ai commencé à travailler dessus pendant un certain temps. Mais à l'époque ça n'avait pas vraiment décollé, c'était comme en 2004... J'ai abandonné l'école et j'ai fait des startups.
Après un certain temps après les progrès mentionnés par Ilya, j'étais vraiment excité par ce qui se passait avec l'IA et je lui ai envoyé un e-mail, et nous continuons.
Les avantages d'OpenAI
héberger:
Selon vous, quelles sont les principales forces d'OpenAI, d'autant plus que ses concurrents sont souvent plus gros et disposent de plus de ressources, ce qui en fait un leader de l'IA générative ?
Lui-même:
Nous croyons que l'un des principaux avantages est notre concentration accrue sur ce que nous faisons. Il est important et mal compris que nous ayons une densité de talents plus élevée que les grandes entreprises. **Notre culture valorise la rigueur et l'innovation répétable, et il est difficile et rare de faire coexister ces deux cultures. **
Il y a:
Oui, je ne peux ajouter qu'une petite quantité à la réponse de Sam. ** Ceci est un jeu de foi, plus de foi signifie plus de progrès. ** Vous ferez le plus de progrès si vous avez beaucoup de foi. Cela peut ressembler à une blague, mais c'est en fait vrai. Il faut croire en l'idée et pousser fort, c'est ce qui fait progresser.
La position du milieu universitaire dans le domaine de l'IA
héberger:
Les progrès récents de l'intelligence artificielle ont été largement portés par l'industrie, quel rôle pensez-vous que la recherche universitaire devrait jouer dans le développement du domaine ?
Il y a:
Le rôle du milieu universitaire dans le domaine de l'IA a considérablement changé. Le milieu universitaire était autrefois à la pointe de la recherche sur l'IA, mais cela a changé. Il y a deux raisons : la puissance de calcul et la culture d'ingénierie. Le milieu universitaire a moins de puissance de calcul et manque souvent d'une culture d'ingénierie.
Cependant, le milieu universitaire peut encore apporter des contributions significatives et importantes à l'IA. ** Le milieu universitaire peut percer de nombreux mystères à partir des réseaux de neurones que nous formons et nous créons des objets complexes et étonnants. **
Qu'est-ce que l'apprentissage en profondeur ? C'est un processus alchimique où nous utilisons les données comme matière première, combinées à l'énergie informatique, pour obtenir cette intelligence. mais qu'est ce que c'est exactement? Comment ça marche? Quelles propriétés possède-t-il ? Comment le contrôlons-nous ? Comment le comprendre ? Comment l'appliquer ? Comment le mesurer ? Ces questions sont toutes inconnues.
**Même sur des tâches de mesure simples, nous ne pouvons pas évaluer avec précision les performances de notre IA. Ce n'était pas un problème dans le passé car l'IA n'était pas si importante. L'intelligence artificielle est très importante aujourd'hui, mais nous réalisons que nous ne pouvons toujours pas la mesurer pleinement. **
Alors, j'ai commencé à penser à des problèmes qui ne peuvent être résolus par personne. Vous n'avez pas besoin d'énormes clusters informatiques ou d'énormes équipes d'ingénieurs pour poser ces questions et progresser. Si vous percez, ce sera une contribution convaincante et significative à laquelle tout le monde prêtera immédiatement attention.
héberger:
Nous voulons voir des progrès parfaitement équilibrés entre l'industrie et le milieu universitaire, et nous voulons voir davantage de ces types de contributions. Pensez-vous qu'il y a quelque chose qui peut être fait pour améliorer la situation, en particulier de votre position, y a-t-il une sorte de soutien disponible ?
Il y a:
Tout d'abord, je pense que le changement de mentalité est la première chose et la plus importante. Je suis un peu en dehors du milieu universitaire ces jours-ci, mais je pense qu'il y a une crise dans ce que nous faisons.
Il y a trop d'élan autour d'un grand nombre d'articles, mais il est important de se concentrer sur la résolution des problèmes les plus critiques. Nous devons changer notre état d'esprit et nous concentrer sur les questions les plus importantes. ** Nous ne pouvons pas nous concentrer uniquement sur ce que nous savons déjà, mais être conscients de ce qui ne va pas. **Une fois que nous comprenons les problèmes, nous pouvons nous diriger vers leur résolution.
De plus, nous pouvons vous aider. Par exemple, nous avons un programme d'accès académique où les universitaires peuvent postuler pour acquérir une capacité informatique et accéder à nos modèles de pointe. De nombreuses universités ont rédigé des articles utilisant GPT-3, étudiant les propriétés et les biais des modèles. Si vous avez d'autres idées, j'aimerais les entendre.
open source OU pas open source
héberger:
Alors que certains acteurs promeuvent vraiment la publication open source de leurs modèles et de leur code, d'autres n'en font pas assez. Il s'agit également d'une IA ouverte. Alors je me demande, tout d'abord, quelle est votre opinion là-dessus? Si vous êtes d'accord, pourquoi pensez-vous qu'OpenAI est la bonne stratégie ?
Lui-même:
**Nous avons ouvert certains modèles et prévoyons d'en ouvrir d'autres au fil du temps. Mais je ne pense pas que tout ouvrir soit la bonne stratégie. **Si les modèles d'aujourd'hui sont intéressants, ils peuvent servir à quelque chose, mais ils sont encore relativement primitifs par rapport à ce que nous nous apprêtons à créer. Je pense que la plupart des gens seraient d'accord avec cela. Si nous savons comment créer une AGI super puissante qui présente de nombreux avantages mais aussi des inconvénients, l'open source n'est peut-être pas la meilleure option.
** Nous essayons donc de trouver un équilibre. ** Nous allons ouvrir certaines choses, et à mesure que notre compréhension du modèle s'améliorera, nous pourrons en ouvrir davantage au fil du temps. Nous avons publié beaucoup de choses, et je pense que bon nombre des idées clés que d'autres construisent actuellement des modèles de langage proviennent des versions d'OpenAI, telles que les premiers articles GPT et les lois de mise à l'échelle du travail de rohf. Mais c'est un équilibre que nous devrons trouver à mesure que nous avancerons. Nous sommes confrontés à de nombreux facteurs de stress différents et devons les gérer avec succès.
héberger:
Envisagez-vous donc de rendre le modèle accessible à un public spécifique, plutôt que de l'ouvrir au monde ? À quoi pensez-vous en tant que scientifique, ou alors que nous terminons la formation GPT-4 ?
Lui-même:
Il nous a fallu près de huit mois pour le comprendre, le sécuriser et comprendre comment nous y adapter. Nous avons des auditeurs externes, des équipes rouges et la communauté scientifique impliqués. Nous prenons donc ces mesures et continuerons de le faire.
Des risques que l'IA ne peut ignorer
héberger:
Je pense que le risque est une question très importante et qu'il existe probablement au moins trois catégories de risques.
Le premier est la dislocation économique, dans laquelle les emplois deviennent superflus. La deuxième catégorie peut être constituée de situations où des armes puissantes sont entre les mains de quelques-uns. Par exemple, si les pirates étaient capables d'utiliser ces outils, ils pourraient faire des choses qui auraient pris des milliers de pirates auparavant. La dernière catégorie est probablement la plus inquiétante, où le système est hors de contrôle et même le déclencheur ne peut empêcher son comportement. J'aimerais connaître votre opinion sur chacun de ces scénarios.
Il y a:
OK, commençons par les scénarios possibles de chaos économique. Comme vous l'avez mentionné, il existe trois risques dans ** : les emplois sont compromis, les pirates gagnent en intelligence et les systèmes deviennent incontrôlables. **Le chaos économique est en effet une situation que nous connaissons déjà, car certains emplois sont déjà touchés ou menacés.
Autrement dit, certaines tâches peuvent être automatisées. Par exemple, si vous êtes programmeur, Copilot peut écrire des fonctions pour vous. Bien que cela soit différent du cas des artistes, puisque de nombreuses activités économiques des artistes ont été remplacées par certains générateurs d'images.
Je ne pense pas que ce soit vraiment une question simple. **Malgré la création de nouveaux emplois, l'incertitude économique persistera longtemps. Je ne sais pas si c'est le cas. **
Dans tous les cas, cependant, nous avons besoin de quelque chose pour faciliter la transition vers l'assaut des carrières émergentes, même si ces carrières n'existent pas encore. Cela requiert l'attention du gouvernement et du système social.
Parlons maintenant du piratage. Oui, c'est une question délicate. L'IA est vraiment puissante et les méchants peuvent l'utiliser de manière puissante. Nous devons appliquer un cadre similaire à d'autres outils très puissants et dangereux.
Notez que nous ne parlons pas d'intelligence artificielle aujourd'hui, mais des capacités croissantes au fil du temps. En ce moment, nous sommes à un point bas, mais quand nous y arriverons, ce sera très fort. **Cette technologie peut être utilisée dans des applications étonnantes, elle peut être utilisée pour guérir des maladies, mais elle peut aussi créer des maladies pires que tout ce qui a précédé.
Par conséquent, nous avons besoin de structures en place pour contrôler l'utilisation de cette technologie. Sam, par exemple, leur a soumis un document proposant un cadre de type AIEA pour contrôler l'énergie nucléaire afin de contrôler une intelligence artificielle très puissante. **
héberger:
La dernière question concerne la perte de contrôle de l'intelligence artificielle super intelligente. On peut dire que cela va devenir un énorme problème. Est-ce une erreur de construire une intelligence artificielle super intelligente que nous ne savons pas contrôler.
Lui-même:
Je peux ajouter quelques points. Bien sûr, je suis tout à fait d'accord avec la dernière phrase.
Sur le plan économique, j'ai du mal à prédire les développements futurs. Je pense que c'est parce qu'il y a tellement de demande excédentaire dans le monde en ce moment, et ces systèmes sont vraiment bons pour aider à faire avancer les choses. Mais dans la plupart des cas aujourd'hui, toutes les tâches ne peuvent pas être effectuées par eux.
** Je pense qu'à court terme, les choses vont bien et nous allons voir une augmentation significative de la productivité. ** Si nous pouvions rendre les programmeurs deux fois plus productifs, la quantité de code nécessaire dans le monde ferait plus que tripler, donc tout semble bien.
À long terme, je pense que ces systèmes géreront des tâches et des catégories de travail de plus en plus complexes. Certains de ces métiers pourraient disparaître**, mais d'autres deviendront davantage des métiers qui nécessitent réellement des humains et des relations humaines. ** Les gens veulent vraiment que les humains jouent ces rôles.
Ces rôles peuvent ne pas être évidents. Par exemple, lorsque Deep Blue a vaincu Garry Kasparov, le monde a été témoin de l'intelligence artificielle pour la première fois. À l'époque, tout le monde disait que les échecs étaient terminés et que personne ne jouerait plus aux échecs parce que cela n'avait aucun sens.
Cependant, nous sommes d'accord pour dire que les échecs n'ont jamais été aussi populaires. Les humains sont plus forts, c'est juste que les attentes sont élevées. Nous pouvons utiliser ces outils pour améliorer nos propres compétences, mais les gens aiment toujours vraiment jouer aux échecs, et les gens semblent toujours se soucier des autres.
Vous avez mentionné que Dolly peut créer du grand art, mais les gens se soucient toujours des personnes derrière l'art qu'ils veulent acheter, et nous pensons tous que ces créateurs sont spéciaux et précieux.
Prenez les échecs comme exemple, tout comme les gens accordent plus d'attention aux échecs humains, plus de gens regardent les échecs humains que jamais auparavant. Cependant, peu de gens veulent regarder un match entre deux IA. Je pense donc qu'il y aura tous ces facteurs imprévisibles. ** Je pense que les humains ont soif de différenciation (entre les humains et les machines). **
Le besoin de créer quelque chose de nouveau pour gagner en statut sera toujours là, mais il se manifestera d'une manière vraiment différente. Je parie que les emplois dans 100 ans seront complètement différents de ceux d'aujourd'hui, et beaucoup de ces choses seront très similaires. Mais je suis tout à fait d'accord avec ce qu'Ilya a dit, **Quoi qu'il arrive, nous avons besoin d'un autre type de contrat socio-économique, car l'automatisation a atteint des sommets jusqu'ici inimaginables. **
héberger:
Sam, vous avez récemment signé une pétition demandant que la menace existentielle de l'intelligence artificielle soit prise au sérieux. Peut-être que des entreprises comme OpenAI devraient prendre des mesures pour résoudre ce problème.
Lui-même:
Je tiens vraiment à souligner que ** nous ne parlons pas ici des systèmes d'aujourd'hui, ni des modèles de formation de petites startups, ni des communautés open source **.
Je pense que ce serait une erreur d'imposer une réglementation lourde sur le domaine en ce moment, ou d'essayer de ralentir une innovation incroyable. Je ne veux vraiment pas créer une superintelligence incohérente qui semble indiscutable. ** Je pense que le monde ne devrait pas voir cela comme un risque de science-fiction qui ne se produira jamais, mais comme quelque chose auquel nous devrons peut-être faire face au cours de la prochaine décennie, il faudra du temps pour s'habituer à certaines choses, mais ça va gagner ' ça va être long. **
Nous avons donc eu une idée et, espérons-le, une meilleure. Si nous pouvons construire une organisation mondiale, avec le plus haut niveau de puissance de calcul et de frontière technologique, un cadre peut être développé pour autoriser les modèles et auditer leur sécurité afin de s'assurer qu'ils passent les tests nécessaires. Cela nous aidera à considérer ce problème comme un risque très sérieux. Nous faisons quelque chose de similaire avec l'énergie nucléaire.
À l'avenir, l'IA accélérera-t-elle la découverte scientifique ? Guérir les maladies, résoudre les problèmes climatiques ?
héberger:
Parlons des avantages. Dans ce milieu scientifique où nous sommes, je m'interroge sur le rôle de l'intelligence artificielle. Dans quelques années, peut-être dans le futur, nous aurons quelque chose de scientifique à découvrir.
Lui-même:
** C'est la chose qui me passionne le plus personnellement à propos de l'IA. ** Je pense qu'il se passe beaucoup de choses passionnantes, d'énormes avantages économiques, d'énormes avantages pour la santé. Mais en fait, l'intelligence artificielle peut nous aider à faire des découvertes scientifiques qui sont actuellement impossibles. Nous aimerions en savoir plus sur les mystères de l'univers et même plus. Je crois sincèrement que le progrès scientifique et technologique est le seul moyen durable de rendre la vie meilleure et le monde meilleur.
Si nous pouvons développer beaucoup de nouvelles avancées scientifiques et technologiques, je pense que nous avons déjà vu les débuts des gens. Utilisez ces outils pour gagner en efficacité. Mais si vous imaginez un monde où vous pouvez dire : « Hé, je peux aider à guérir toutes les maladies », et que cela peut vous aider à guérir toutes les maladies, ce monde pourrait être un meilleur endroit. Je ne pense pas que nous en soyons si loin.
héberger:
Outre les maladies, un autre problème majeur est le changement climatique, très délicat à résoudre. Mais je ne pense pas qu'il sera particulièrement difficile de faire face au changement climatique une fois que nous aurons des systèmes superintelligents vraiment puissants.
Il y a:
Oui, vous avez besoin de beaucoup de capture de carbone. Vous avez besoin de l'énergie pour capturer le carbone, et vous avez besoin de la technologie pour la construire. Si vous pouvez accélérer la science, vous devez construire beaucoup. Le progrès est ce que l'intelligence artificielle puissante peut faire, et nous pouvons réaliser une capture de carbone très avancée beaucoup plus rapidement. Il peut arriver plus rapidement à une électricité très bon marché, nous pouvons arriver plus rapidement à une fabrication moins chère. Maintenant, combinez les trois de l'électricité bon marché, de la fabrication bon marché et de la capture avancée du carbone, et maintenant vous en construisez beaucoup, et maintenant vous aspirez tout cet excès de CO2 de l'atmosphère.
** Si vous avez une forte intelligence artificielle, cela accélérera considérablement les progrès en science et en ingénierie. ** Cela rendra la planification beaucoup plus facile aujourd'hui. Je crois que cela facilitera l'accélération des progrès. Cela montre qu'il faut rêver plus grand. Vous pouvez imaginer que si vous pouviez concevoir un système, vous pourriez lui demander de vous dire comment produire de grandes quantités d'énergie propre à faible coût, comment capturer efficacement le carbone et vous guider dans la construction d'une usine qui ferait ces choses. . Si vous pouvez les atteindre, vous pouvez également les atteindre dans de nombreux autres domaines.
Merveilleux ChatGPT
héberger:
En entendant que vous n'aviez pas pensé que ChatGPT serait si répandu, je me demande s'il existe des exemples d'autres personnes véritablement surprises par sa valeur et ses capacités.
Il y a:
J'ai été tellement surpris et ravi lorsque mes parents m'ont raconté comment leurs amis utilisent ChatGPT dans leur vie quotidienne. Il est difficile de choisir une des nombreuses histoires attachantes qui mettent en valeur l'éclat de la créativité humaine et la façon dont les gens exploitent cet outil puissant.
Cela a été formidable pour nous dans le domaine de l'éducation et voir tant de gens écrire des mots qui changent leur vie comme celui-ci est vraiment transformateur pour moi parce que maintenant je peux apprendre n'importe quoi, j'apprends des choses spécifiques ou Dire des choses que je ne savais pas comment fais avant, je fais maintenant.
Personnellement, voir les gens apprendre d'une manière nouvelle et meilleure et imaginer ce que ce sera dans quelques années est très satisfaisant et beau. À ce rythme, nous ne nous attendions pas vraiment à ce que cela se produise, ce qui est vraiment incroyable.
Ensuite, il y a une histoire intéressante, que j'ai entendue hier. On dit qu'un homme passait deux heures chaque soir à écrire des histoires pour s'endormir avec ses enfants. Ces histoires sont toutes les choses préférées des enfants, et cela devient un moment spécial. Ils se sont bien amusés tous les soirs.
## Questions du public :
Sam : À court de mots...
Il y a:
En ce qui concerne la question des modèles open source et non open source, nous n'avons pas à penser en termes binaires noir et blanc. C'est comme s'il existait une source secrète que vous ne pourrez jamais redécouvrir.
** Peut-être qu'un jour il y aura un modèle open source qui répliquera les capacités de GPT-4, mais ce processus prendra du temps, et d'ici là, un tel modèle pourrait devenir un modèle plus puissant au sein d'une grande entreprise. **Par conséquent, il y aura toujours un écart entre le modèle open source et le modèle privé, et cet écart peut augmenter progressivement. La quantité de travail, d'ingénierie et de recherche nécessaire pour créer un tel réseau de neurones continuera d'augmenter.
Donc, **même si des modèles open source existent, ils seront de moins en moins faits par un petit groupe de chercheurs et d'ingénieurs dédiés, ce sera juste une entreprise, une grande entreprise (contribuant à l'open source). **
Lui-même:
Je pense que c'est une question très juste et importante. La partie la plus difficile de notre travail consiste à trouver un équilibre entre l'énorme potentiel offert par l'intelligence artificielle et les risques sérieux qui y sont associés. Nous devons prendre le temps de discuter des raisons pour lesquelles nous sommes confrontés à ces risques et pourquoi ils existent en premier lieu.
Je pense que les choses vont mieux quand on regarde le niveau de vie d'aujourd'hui et notre tolérance accrue envers les humains. Par rapport à il y a 500 ou 1000 ans, les conditions de vie des gens se sont beaucoup améliorées. Nous nous demandons, pouvez-vous imaginer des personnes vivant dans l'extrême pauvreté ? Pouvez-vous imaginer des personnes souffrant de maladies ? Pouvez-vous imaginer une situation où tout le monde n'est pas bien éduqué? Ce sont les réalités des temps barbares.
**Bien que l'IA présente certains risques, nous voyons également son potentiel pour améliorer nos vies, faire avancer la recherche scientifique et résoudre des problèmes mondiaux. **
Nous devons continuer à développer l'IA de manière responsable, avec des mesures réglementaires en place pour garantir que les problèmes de sécurité et d'éthique sont correctement pris en compte. Notre objectif est de faire de l'intelligence artificielle un outil de progrès humain, et non une menace. Cela nécessite nos efforts conjoints, y compris la participation de la communauté technique, du gouvernement et de toutes les parties de la société, pour établir un cadre durable et éthique pour le développement de l'intelligence artificielle.
Comment le faire, je pense aussi que c'est comme un progrès irrépressible. La technologie ne s'arrête pas, elle continue d'évoluer. Donc, en tant que grande entreprise, nous devons trouver comment gérer les risques qui vont avec.
Cela s'explique en partie par le fait que le risque et l'approche requise pour y faire face sont extraordinaires. Il fallait créer un cadre différent des structures traditionnelles. Nous avons un plafond de bénéfices et je crois que les incitatifs sont un facteur important. Si vous concevez les bonnes incitations, cela peut souvent conduire au comportement que vous souhaitez.
Alors on essaie de faire en sorte que tout fonctionne bien et ne rapporte pas plus ou moins de profit. Nous n'avons pas de structure incitative comme une entreprise comme Facebook, ce que je trouve génial, les gens de Facebook sont dans une structure incitative, mais cette structure présente des défis.
Nous essayons d'accumuler de l'expérience par le biais d'AGI. Comme Ilya l'a souvent mentionné, nous avons d'abord essayé de faire l'expérience d'AGI lorsque nous avons démarré l'entreprise et avons ensuite construit la structure de profit. Par conséquent, nous devons trouver un équilibre entre les besoins en ressources de calcul et nous concentrer sur la mission. L'un des sujets dont nous discutons est de savoir quel type de structure nous permet d'adopter la réglementation avec enthousiasme, même lorsque cela nous fait le plus mal.
Le moment est venu, ** nous conduisons une réglementation à l'échelle mondiale qui aura le plus grand impact sur nous. **Bien sûr qu'on respecte les règles, je pense que quand les gens sont à risque c'est plus facile pour eux de bien se comporter, c'est plus facile pour eux de chercher un but. Je pense donc que les propriétaires de ces grandes entreprises le ressentent maintenant, et vous allez les voir réagir différemment des entreprises de médias sociaux. Je pense que tous les doutes et préoccupations sont justifiés. Nous luttons avec ce problème tous les jours, et il n'y a pas de réponse facile.
Il y a:
L'écart entre les modèles que vous avez mentionnés est en effet un problème.
Je veux dire, maintenant nous avons le GPT-4, vous savez que nous nous entraînons, vous avez accès au GPT-4, ** et nous travaillons vraiment sur le prochain futur modèle. **
Peut-être puis-je décrire cet écart de la manière suivante : alors que nous continuons à créer et à améliorer des modèles d'IA avec des capacités améliorées, il existe un écart plus important qui nécessite des périodes et du temps de test plus longs. Nous travaillons avec l'équipe pour comprendre les limites du modèle, et toutes les façons dont vous connaissez, l'utiliser autant que possible, mais nous étendons aussi progressivement le modèle.
Par exemple, maintenant GPT-4 a des capacités de reconnaissance visuelle, et vous (la version que vous utilisez) n'avez pas lancé cette fonctionnalité car le travail final n'est pas terminé. Mais bientôt nous y parviendrons. Je pense donc que cela répond à votre question, peut-être pas trop loin dans le futur.
*Remarque : Roko's Basilisk est une allusion à une discussion en ligne et à une expérience de pensée impliquant des hypothèses sur la future superintelligence. *
Il y a:
Bien que le basilic de Rocco ne nous préoccupe pas particulièrement, nous sommes certainement très préoccupés par la superintelligence.
Probablement pas tout le monde, pas même tout le monde dans le public ne comprend ce que nous entendons par superintelligence.
Ce à quoi nous faisons référence, c'est la possibilité de construire un jour un ordinateur, un groupe d'ordinateurs sous forme de GPU, qui soit plus intelligent que quiconque et capable de faire de la science et de la recherche plus rapidement que de grandes équipes de scientifiques et d'ingénieurs expérimentés. .
C'est fou, et ça va avoir un impact énorme.
Il peut concevoir la prochaine version du système d'IA et construire une IA très puissante. Donc, notre position est que **la superintelligence a des effets considérables, elle peut avoir des effets très positifs, mais elle est aussi très dangereuse, et nous devons y faire attention. **
C'est là que l'approche de l'AIEA (Agence internationale de l'énergie atomique) que vous avez mentionnée entre en jeu pour les systèmes de pointe très avancés et la superintelligence à l'avenir. Nous devons faire beaucoup de recherches pour exploiter le pouvoir d'une superintelligence pour répondre à nos attentes, pour notre bénéfice et pour le bénéfice de l'humanité.
C'est notre position sur la superintelligence, qui est le défi ultime de superintelligence auquel l'humanité est confrontée.
En regardant l'histoire évolutive de l'homme, un réplicateur unicellulaire est apparu il y a environ 4 milliards d'années. Puis, au cours de milliards d'années, une variété d'organismes unicellulaires différents ont émergé. Il y a environ un milliard d'années, la vie multicellulaire a commencé à émerger. Il y a des centaines de millions d'années, les reptiles sont apparus sur la terre. Les mammifères sont apparus il y a environ 60 millions d'années. Il y a environ 1 million d'années, les primates sont apparus, suivis de l'émergence d'Homo sapiens. 10 000 ans plus tard, l'écriture fait son apparition. Puis vinrent la révolution agricole, la révolution industrielle et la révolution technologique. Maintenant, nous avons enfin AGI, la finale de la superintelligence et notre défi ultime.
Lui-même:
Je pense que l'étude de l'informatique est précieuse de toute façon.
Bien que je n'écrive presque jamais de code moi-même,** je considère l'étude de l'informatique comme l'une des meilleures choses que j'ai jamais faites. Cela m'a appris à penser et à résoudre des problèmes, des compétences qui sont très utiles dans n'importe quel domaine. **
Même si le travail d'un programmeur informatique semble différent dans 10 à 15 ans, apprendre à apprendre est l'une des compétences les plus importantes, y compris apprendre de nouvelles choses rapidement, anticiper les tendances futures, être adaptable et résilient, comprendre les besoins des autres et comment Être utile.
Il ne fait donc aucun doute que la nature du travail va changer, mais je ne peux pas imaginer un monde où les gens ne prennent pas le temps de faire quelque chose qui crée de la valeur pour les autres et tous les avantages qui en découlent. Peut-être qu'à l'avenir, nous nous soucierons de savoir qui a la galaxie la plus cool, mais certaines bonnes choses (comme la création de valeur) ne changeront pas.
Il y a:
Je veux dire, de la meilleure façon possible.