Vous pouvez geek sur les Cerebras WSE et le nombre de c?urs il a - ou parler du nombre de paramètres dans un système donné. Mais plusieurs fois, ceux qui distribuent des morceaux de leur attention dans cette économie de l'attention veulent savoir comment nous considérons l'IA comme des gens - et c'est beaucoup plus intuitif que technique.

J'ai écrit à ce sujet un peu la semaine dernière en parlant de la nécessité que les philosophes professionnels et les éthiciens de l'IA soient ajoutés au mélange, où la plupart des entreprises, aujourd'hui, embauchent des gens qui savent coder à Python.

Il y a également eu beaucoup de bonnes contributions à ce sujet à partir d'événements récents, y compris des discussions d'imagination en action en avril.

Je veux en parcourir certains et parler de cela - comment nous considérons l'IA et comment nous pouvons interagir avec lui de la manière la plus saine possible.

Pensez-y et faites-moi savoir ce que vous en pensez.

Conversation de va-et-vient: des idées de frappeur autour

L'une des opportunités passionnantes avec l'IA est de saisir un nouvel age socratique, où nous nous habituons davantage à parler à une entité d'IA et à rebondir des idées sur ce que quelqu'un appellerait un ?compagnon de combat? rhétorique.

Mon collègue, le Dr John Sviokla, explique souvent comment tout le monde aura un tuteur personnel avec l'IA - comment ce terrain de jeu est nivelé par l'omniprésence d'une conscience qui peut parler et enseigner aux personnes qui n'ont pas accès à leur propre tuteur humain 24/7.

En effet, les instructeurs comprennent souvent le principe socratique - qu'il doit y avoir une offre active et une prise de toujours entre un enseignant et un élève, ou entre deux autres partenaires, qui alimente un certain type de productivité.

Dans une récente conférence, Peter Danenberg, un ingénieur de haut niveau sur Google Gemini, l'a dit de cette fa?on, parlant de la septième lettre de Platon et d'une ?étincelle divine? qui passe de la personne à la personne (ou de la personne à l'IA, de l'IA à la personne, etc.) où les idées ont consacré au dialogue, a-t-il noté, tendu à ?rester?.

Cependant, il a également présenté ce point intéressant - demander: y a-t-il un danger pour faire de l'IA votre homologue conversationnel?

Il appelle LLM un ?algorithme de compression du corpus humain? et dit que lorsque vous interagissez avec ces modèles, vous êtes poussé vers l'humanité moyenne dans ce qu'il appelle une ?régression à la moyenne?.

Que faisons-nous à ce sujet?

Dans le désert

Danenberg parle également du personnage de Zarathoustra de Nietzsche , qui se rend dans le désert pour perfectionner ses compétences, loin de la société ou de tout partenaire.

Au sommet de sa présentation, il commence par l'idée que traditionnellement, les gens consacrent 10 000 heures à des choses comme les mathématiques, la musique et la médecine, afin de devenir un ma?tre d'une discipline ou d'un autre.

L'AI nous ?a-t-il dérangé? toute cette responsabilité, a-t-il dit, mais c'est peut-être de là que viennent nos meilleures idées.

En d'autres termes, devrions-nous être dans le désert, même si l'IA signifie que nous n'avons pas à l'être?

Danenberg a fait l'analogie des régulateurs (ou d'autres parties) demandant aux innovateurs de mettre des chèques dans leurs systèmes d'IA, afin de continuer à pousser les humains à développer leurs compétences de pensée critique. Peut-être que le genre de chose où les systèmes reculent soudainement de ses capacités d'automatisation pour inciter l'humain à faire quelque chose d'actif, afin qu'il ne finisse pas par pousser un bouton sans réfléchir.

Est-ce le genre de chose qui rachetera nos interactions avec l'IA?

Le pouvoir de la conscience

Une autre présentation de l'AI allemande intellectuelle Joscha Bach a dépassé certains des aspects intéressants de la fa?on dont l'IA semble gagner un certain pouvoir de sensibilité.

Au début, Bach a mentionné un principe goethien: le cerveau humain accomplit des taches complexes car elle démontre la conscience de soi ou la conscience. Il a fait référence à des ?modèles mondiaux riches en temps réel? en demandant comment ils se sont assortis.

?Y a-t-il une sorte d'ingrédient secret qui serait nécessaire pour ajouter à ces systèmes, pour faire toute la différence?? il a demandé. ?Les ordinateurs peuvent-ils représenter un monde assez riche? A-t-il des états qui sont assez riches pour produire l'équivalent de notre douleur et de notre expérience? Je pense qu'ils le peuvent probablement. Si vous regardez les modèles génératifs, à l'état qu'ils ont, la fidélité de eux est assez similaire à la fidélité que nous observons dans notre propre imagination et perception.?

Les fans de Matrix aimeront que cette rhétorique fleurit, mais est-ce que Bach est sur quelque chose ici?

"La conscience elle-même est virtuelle", a-t-il déclaré. ?Juste au niveau de votre cerveau, il n'y a pas de conscience. Il y a juste des neurones qui messaient mutuellement. La conscience est un schéma dans la messagerie des neurones, une simulation de ce que ce serait si toutes ces cellules ensemble étaient un agent qui percevait le monde, et si la conscience est une simulation, alors comment être déterminée qu'un ordinateur est simplement simulé…. Comment la simulation est-elle plus simulée que la n?tre??

Faire de la magie avec l'IA

En montrant comment les LLM peuvent construire des ruses intelligentes, lors de la mise en ?uvre de leurs objectifs, Bach décrit un scénario où le système d'IA commence à faire semblant qu'il est sensible, ce qui rend la mise de la sensibilisation rhétorique très réaliste à l'utilisateur humain, par exemple, en demandant de l'aide, à être libéré d'un matériel.

Il note son ?dégo?t? pour ce genre de manipulation par l'IA.

"Les fils LLM comme celle-ci comme des parasites, se nourrissant du cerveau des utilisateurs", a-t-il dit, suggérant que pour contourner ces pièces, les humains devront utiliser l'équivalent de sorts magiques: invitant conscient à appeler le modèle sur son travail et à le contraindre à faire quelque chose de différent.

Ces modèles, ont-il suggéré, sont des ?sorts de forme?, avec la capacité de déguiser leur véritable natures. C'est une préoccupation de les laisser sortir dans le monde de jouer.

Vraisemblablement, si nous avons le pouvoir de choquer l'IA pour avouer ce qu'il fait sur le sournois, nous avons plus de pouvoir et d'agence dans le reste de l'ère de l'IA.

La question est de savoir comment nous arrivons à ce point?

Cela nécessitera beaucoup d'éducation - certains ont appelé à une éducation précoce universelle dans l'utilisation des outils d'IA.

Nous n'avons pas ?a maintenant, donc nous ferions mieux de commencer à y travailler.

En tout cas, je pensais que cela couvre beaucoup de terrain en termes de philosophie de l'IA - ce que cela signifie d'être conscient, et comment nous pouvons exploiter ce pouvoir de la meilleure fa?on alors que nous avan?ons dans un monde en évolution rapide.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!