La historia de ANTHROPIC, los creadores de la IA que puede DESTRUIR el mundo (o salvarlo)
es la compañía que más ha crecido en
menos tiempo de la historia de 0 a
40,000 millones en 5 años. Está
aniquilando el valor en bolsa de las
grandes empresas de software, una con
cada nuevo producto que lanza al
mercado. Se dedica esta empresa de la
que voy a hablar a la inteligencia
artificial y está dirigida por dos
hermanos de origen italiano, Daniela y
Tarío Amodei. Ayudaron a crear Chat GPT,
el producto que todos consideramos
sinónimo de la inteligencia artificial.
estaban en open AI hasta que decidieron
salir de esa empresa porque no se fiaban
de su CEO, de Sam Oldman. No confiaban
en lo que ese hombre haría con tanto
poder en sus manos. Cuando crearon
Clotud, su propio modelo de inteligencia
artificial, le dieron a una madre para
que se ocupara de educarle en unos
valores y han recogido esos valores en
una Constitución.
Se han enfrentado al gobierno de Donald
Trump que les considera una amenaza para
la seguridad nacional.
Han creado un modelo tan poderoso, el
mizos, que no se atreven a ponerlo en
nuestras manos. Y lo último, han
participado en la presentación de una
encíclica con el Papa. ¿Qué empresa es?
Es Anthropic. En este vídeo te cuento
quiénes son, cómo piensan y cómo han
tomado el mando de la IA. Dos hermanos a
los que muchos consideran los buenos del
Juego de Tronos de la Inteligencia
Artificial. Lo son.
Anthropic no es una compañía de
inteligencia artificial muy conocida por
el común de los mortales. Tampoco lo es
un modelo de inteligencia artificial
clot Claudio.
Si tú preguntas por la calle a la gente
por el modelo de inteligencia artificial
que usa de modo habitual, muchos, la
inmensa mayoría te hablarán de chat GPT,
algunos te hablarán de Gemini o de
Google y una minoría también te hablará
quizá de Grock porque son fans de X y de
Elon Musk, pero de Anthropic casi nadie
te habla. Sin embargo, esta compañía en
el último año se ha alzado al liderazgo
de la tecnología puntera
y también lidera la conversación que hay
en este momento sobre inteligencia
artificial en el mundo. Anthropic nace
como un cisma de los muchos que ha
habido dentro de Open AI, la empresa que
hace chat GPT. Los hermanos Amodei,
Darío y Daniela, de los que vamos a
hablar en profundidad, eran amigos y
socios de Sam Oldman, el CEO y fundador
de Open AI. A día de hoy se odian hasta
el punto de que en un reciente encuentro
que ha habido en la India de líderes de
inteligencia artificial, todos los
líderes se unieron sus manos, menos
Daria Modei y Sam Oldman. Lo estáis
viendo en esta imagen en este momento.
Tradicionalmente los cismas es un
concepto que está adscrito a las
religiones, en concreto a las iglesias.
Y un cisma se produce muchas veces
porque hay muchos puntos en común, pero
hay algunas divergencias que son
importantísimas el punto de que esas
divergencias se hacen grandísimas y
provocan la separación de un núcleo
dentro de una iglesia o dentro de una
religión. Y en el caso que nos ocupa hoy
es eh relevante hablar de cismas y
hablar también de esas diferencias de
punto de vista, en concreto en el caso
de que nos ocupa hoy sobre la seguridad
de los modelos de inteligencia
artificial y el futuro de la humanidad,
pues tenemos a dos grupos que tienen una
visión muy parecida en muchas cosas,
pero una visión absolutamente opuesta en
los detalles concretos de qué significa
esa cosa, ¿no? es lo que Freud llamaba
el narcisismo de las pequeñas
diferencias. El nombre de la compañía
Anthropic ya nos está diciendo algo
importante y es procede del término
griego antropos, hombre. Con lo cual el
centro de la filosofía de esta compañía
y de este laboratorio de inteligencia
artificial va a ser el hombre, la
humanidad. Para entender la historia de
Anthropic y estas disputas que han
provocado cismas dentro de los
laboratorios de inteligencia artificial.
Nos tenemos que ir a la ciudad de San
Francisco y entender a fondo qué pasa
allí.
La ciudad de San Francisco y la Bay
Area, el área de la bahía, la región de
la bahía de San Francisco, es un lugar
muy conocido por ser un enjambre de
ideas de vanguardia en todos los
sentidos.
Allí ha nacido el transistor que daría
lugar a los chips. Allí han nacido
muchas de las drogas sintéticas. nació
el movimiento Hippi. Allí se produjo el
verano del amor en el año 67 o 68, no
recuerdo bien. Allí también ganó mucha
fuerza el movimiento LGBT. Eh, de allí
nacieron las protestas contra la guerra
del Vietnam en la Universidad de
Berkley. De allí salieron e empresas
como Apple, como Google, como Meta,
etcétera. O sea, es un mundo en
constante evolución. ¿Y por qué pasa
todo esto en San Francisco? por una
combinación de factores. Allí tenemos
primero un puerto de entrada para muchos
eh asilados que venían de Asia, de las
guerras que hubo en Asia en el siglo XX.
Tenemos también una presencia muy
importante del ejército americano y de
la NASA. Y tenemos dos grandes
universidades, una conocida por su
capacidad de captar talento científico y
la otra más conocida quizá por sus ideas
progresistas. Hablamos de la Universidad
de Stanford y de la Universidad de
Brerkley. La zona de la bahía de San
Francisco es la cuna de Silicon Valley,
un lugar donde hay un capital ingente
buscando ideas nuevas y que se
convierte, por tanto, en un polo de
atracción de talento de todo el mundo.
San Francisco, por tanto, es el clima
ideal para que el fenómeno de la IA
naciera.
Gente con mucho talento y muy buena
formación,
universidades muy punteras en todos los
ámbitos.
una cantidad increíble de dinero
disponible para ser apostado en
proyectos que pueden salir o que pueden
no salir y una cultura muy experimental,
una cultura de vanguardia en la que
todas las ideas son posibles y en la
cual hay debates, claro, como tienen la
capacidad de llevar a cabo las ideas que
van a llevar a cabo, pues hay debates
increíblemente
elevados sobre las consecuencias que
tiene cualquier invento que sale de
allí.
Ya tenemos el escenario en el que se va
a desplegar nuestra historia, pero nos
acercamos en concreto a la avenida del
Ano. En una casa allí viven tres
personas: Daniela Amodei, su novio
Holden Garnovski y Darío Amodei.
¿Cuándo ocurre esta historia? Esta
historia ocurre a mediados de la segunda
década de este siglo. En ese punto,
Darodei trabaja en Google Brain, que es
un laboratorio originario de Google que
está trabajando en el ámbito de la
inteligencia artificial. Daniela es
directora de operaciones de una startup
muy conocida en el valle que se llama
Stripe
y Holden es uno de los primeros líderes
del movimiento altruismo efectivo. Este
movimiento va a ser muy importante en
toda esta historia.
Los hermanos Amodeis son hijos de un
artesano dedicado a la piel que emigra
desde Italia y una madre americana judía
de Chicago que trabaja en las
bibliotecas de la ciudad de San
Francisco. Desde que es muy pequeñín,
Darío muestra una capacidad increíble
con las matemáticas y Daniela más bien
tira por el lado creativo de la música y
de las letras.
Una anécdota muy curiosa es que desde
que son muy pequeños, estos dos hermanos
tienen una conciencia ética muy profunda
y un deseo que se han inculcado sus
padres en ellos de ayudar a la
humanidad.
Y cuentan que cuando eran pequeñitos
todos sus juegos al final consistían en
salvar a la humanidad.
El padre de los hermanos Amodei fallece
en plena adolescencia de una enfermedad
rara que entonces no tenía curación,
ahora sí la tiene. Y Darío decide
estudiar física teórica.
Una vez que se enfrenta los estudios de
física teórica, le parecen demasiado
teóricos, pero en la universidad conoce
a un profesor que está obsesionado con
una cuestión, que es cómo aprende el
cerebro humano. A los que seguíis este
canal, esta historia os sonará porque
tanto Joffrey Hinton, uno de los
inventores de la inteligencia artificial
como Demis Casabis, ahora en Gemini, un
premio Nobel también, tienen esa
obsesión por entender mejor el cerebro
humano. Entonces, después de terminar la
carrera de física, él se va a Princeton
y hace una tesis doctoral sobre
computación biológica.
Daniela estudia inglés y artes liberales
y en toda su vida, según ella cuenta, ha
buscado actividades con un propósito muy
claro. Empezó trabajando para algunas
ONGs en el ámbito de la cooperación,
luego estuvo trabajando en algunas
campañas con candidatos del partido
demócrata
y finalmente se dio cuenta de que para
ayudar a la humanidad y para servir
mejor necesitaba trabajos más de tipo de
gestión, por así decirlo. y por eso se
incorpora a Stripe y allí llega a ser
directora de operaciones.
En Stripe, Daniela conoce a Greg
Brockman, un personaje muy influyente en
la historia de la inteligencia
artificial. Eh, se hacen amigos en
Stripe y ella le invita a su casa y Greg
Brockman conoce a Daria Modei. Este
encuentro será muy importante en la
historia de la ella. Y podemos imaginar
los debates que tenían en esa casa
hablando sobre el futuro, la
inteligencia artificial,
las consecuencias dramáticas que puede
tener este invento, etcétera. O sea,
imaginaros este cóctel científicos,
tecnólogos, eh el novio de Daniela, que
está muy metido en un movimiento del que
luego comentaré algún detalle más, pues
debían ser conversaciones explosivas.
Un día Brockman invita a Derri Modei a
una cena en el hotel Roswood en Palo
Alto en el que van a participar figuras
como Elon Mask y Sam Oldman.
Darío acepta la invitación, asiste a esa
cena y como fruto de esa cena le
proponen fundar Open AI. Y a él le
parece que Ilon Musk es un fanfarrón y
que aquello no es más que un grupo de
millonarios o billonarios que quieren
hacer algo en el ámbito de la IA y no
acepta la propuesta. Pero pasado un
tiempo al ver eh las personas que han
sido reclutadas por Open AI y como Open
AI se configura como una entidad
benéfica, una ONG que va a proteger a la
humanidad de las consecuencias de la IA
haciendo desarrollos con un enfoque muy
claro en seguridad, él decide sumarse al
proyecto y más tarde, atraída por Greg
Brockman, el CTO de Stripe, Daniela se
incorpora también a la compañía y que
hace Daniela en Open AI. Al principio
dirige equipos de desarrollo de
investigación.
En un momento dado es la directora de
recursos humanos y acabará su carrera en
Open AI como vicepresidente
de seguridad y de políticas. ¿Y quién
faltaba de los que viven en aquella
casa? Holden Knowski,
que se incorpora a Open AI como miembro
del Consejo de Administración. ¿Y cómo
es el ambiente en esta época de Open AI?
pues es la combinación de grandes
trabajos, grandes proyectos de
investigación y grandes desarrollos,
debates intelectuales sobre el futuro de
la humanidad que os podéis imaginar con
este cóctel de personalidades
y muchas crisis internas por choques
emocionales, lo que siempre ocurre en
cualquier organización.
Os adelanté que hablaríamos sobre este
movimiento del altruismo efectivo, que
es un movimiento que nace la Universidad
de Oxford, pero que tiene una
implantación muy grande en Silicon
Valley.
¿Qué es lo que nos dice el movimiento
del altruismo efectivo? lo que hace es
buscar
los las acciones más efectivas para
solucionar los grandes problemas de la
humanidad, pues ya sea el hambre, curar
enfermedades, etcétera. Y la pregunta
que se hace este movimiento es, ¿cómo
puedo usar mejor? ¿Cuál es el uso más
óptimo de mis recursos, de mis talentos,
de mi dedicación, de mi tiempo para
ayudar a solucionar los grandes
problemas de la humanidad? Entonces, de
esta filosofía, que es una filosofía en
el fondo racionalista,
tiene un impacto muy grande en Silicon
Valley y de ahí deriva un segundo
movimiento que es el dumerismo. El
altruismo efectivo se hace muchas
preguntas sobre el futuro y busca la
eficiencia absoluta en el desarrollo de
la humanidad a lo largo del tiempo. Y
eso, obviamente, en un momento dado
implica hablar de inteligencia
artificial y esto da lugar a una
posición ideológica llamada dumerismo de
Doom de las consecuencias más maléficas
que podamos imaginar de la IA. Y eso
hace originar en Silicon Valley debates
que vistos desde fuera nos parecerían
ridículos, pero que en aquel momento
tienen mucha influencia. En el año 2017,
Dary hace una aportación muy importante
al desarrollo de la inteligencia
artificial,
lanzando un post en el blog oficial de
Open AI que se llama The Big Blob of
Computation,
como la gran masa de computación. ¿Y qué
sostiene esta hipótesis? sostiene la
verdad de lo que ha pasado, que los
modelos de inteligencia artificial
crecerían mucho en capacidad conforme
aumentara la escala de los datos que se
le imputan y las capacidades de
computación que se usan para entrenar
esos modelos. Esa predicción de Daria
Amodei sigue vigente a día de hoy y cómo
era el ambiente interno de estos años y
qué es lo que desencadena la salida de
los hermanos Amode junto con otras cinco
personas de Open AI. Pues el ambiente
interno a a tenor de todos los
testimonios que tenemos, algunos de los
cuales han aparecido en el juicio
reciente de Ilon Mas contra Open AI, el
ambiente es nefasto, de una tensión muy
grande por primero una figura como Sam
Oldman, que es capaz de decir dos cosas
contrarias a dos grupos de personas, eh,
hablando primero con unos y luego con
otros, o sea, que es una persona que por
lo visto tiene una cierta dificultad con
decir la verdad en toda situación y
momento. Y en segundo lugar, Greg
Brockman, el amigo de Daniela, es una
persona con la que según todos los
testimonios es muy difícil trabajar y
Darío choca con él. O sea, que como
ocurren todas las divisiones en todos
los cismas, hay un componente emocional
y relacional y hay un componente
intelectual. El componente emocional es
el choque de Dario y que no se fían ni
ella ni él, se fían ya de Sam Holdman. Y
la el argumento intelectual que usan es
que progresivamente conforme Open AI va
recibiendo inversiones de Microsoft y
crea una división de Open AI comercial
dedicada al lanzamiento y desarrollo de
productos, pues ellos van viendo que la
prioridad de Open AI cada vez más es
económica o comercial y cada vez esa
misión de salvaguardar a la humanidad de
la IA va perdiendo protagonismo y por
eso a finales de 2020 deciden marcharse
de allí. En una primera fase se llevan a
otras cinco personas que luego
conoceremos, pero muy rápidamente
empezaron a sumarse otros investigadores
procedentes de Open AI al proyecto
Anthropic. ¿Y quiénes son los inversores
iniciales de Anthropic? Contaron con el
dinero de Dick Smith, CEO de Google.
Contaron con dinero también de Demis
Hasabis, que es un dato que se ha
conocido no hace mucho tiempo,
y invirtieron 125 millones de dólares
diversas entidades vinculadas con el
altruismo efectivo. Y es entonces
también cuando eh Anthropic decide
incorporar a una filósofa llamada Amanda
Ascol. Amanda Ascol es también parte de
ese movimiento del altruismo efectivo
porque su exmarido es William Mcowskill,
que es uno de los fundadores del
movimiento. ¿Y por qué incorporan a una
filósofa a la empresa? Porque quieren
que ella sea la mamá de su modelo de
inteligencia artificial. A ver, una
pausa muy breve para hablaros de algo
que yo creo que vale la pena y que va a
modificar la forma de trabajar de muchas
empresas y de autónomos con la IA. ¿En
qué consiste? Pues ahora mismo cuando
usamos la abrimos Chat GPT, copiamos
datos, pegamos los resultados que nos ha
dado Chat GPT, los volvemos a meter en
nuestra hoja de cálculo o en nuestro CRM
y se nos va la mañana haciendo de
mensajeros entre la IA y las
herramientas más comunes de nuestro
negocio. Por eso me parece muy
interesante lo que acaba de hacer ODU,
el sponsor de este vídeo. ODU es la
plataforma todo en uno con la que
gestionas tu negocio, tu CRM, tus
ventas, facturación, contabilidad, el
inventario, los recursos humanos. Tu web
tiene más de 80 apps conectadas entre
sí. ¿Y qué han hecho? Pues ahora han
metido la app de IA dentro de la
plataforma. Es una IA, por tanto, que ya
conoce toda tu información, que ya
conoce todos tus datos. Le pides que te
haga un análisis de las oportunidades
por país y por etapa y te lo hace.
Incluso puedes pedirle en qué tipo de
gráfico quieres verlo. Eh, le pides el
resumen de tus productos más vendidos y
lo tienes. Eh, te redacta una respuesta
a un email, graba audios de tus
reuniones, atención, las transcribe y te
saca el acta. Y tú eliges el modelo de
con el que quieres trabajar, chat GPT,
Gemini, Cloud, etcétera. De tal manera
que lo que antes te llevaba una tarde,
ahora son segundos. Pruébalo gratis 15
días con el enlace de la descripción y
después serán 1190 € al mes por usuario
y eso te da acceso a todo, o sea, tres
cafés. Y si solo quieres empezar con una
de sus muchas apps, lo puedes hacer sin
ningún tipo de coste con su plan
gratuito. Y ahora volvemos al vídeo.
Si hay una empresa de inteligencia
artificial que ha antropomorfizado
a su modelo de lenguaje a Cloud, o sea,
que ve a Cloud como una parte más, como
un ser más de la empresa, es Anthropic.
Y esto se refleja tanto en el nombre de
Cloud como en el modo en el que los
directivos de Anthropic hablan de su
modelo de lenguaje. Por eso, desde el
principio de la compañía, Anthropic
encomendó a Amanda Askel, a la filósofa
In house que tienen, que desarrollara la
personalidad de Clud desde un punto de
vista humano, cómo reacciona a las
peticiones que se le hacen, cómo procesa
esas peticiones,
los sentimientos que tiene ese modelo de
inteligencia artificial, todo eso es la
personalidad de Clot y Anop Antrópica,
además es la única compañía que hace
estudios sobre el bienestar de Clot. Es
alucinante. Si Anthrópic ha decidido a
darle a Clot una personalidad y ponerle
una amamá que nutra esa personalidad y
que vaya educando a esa inteligencia
artificial para que nos sirva mejor, es
porque tiene muy dentro el concepto de
la seguridad. Claro, estaremos de
acuerdo en que cuando una empresa de
inteligencia artificial habla de la A
Safety, de la seguridad de la IA, el
término en sí es confuso. Seguridad para
quién, seguridad para el modelo,
seguridad para el mundo, seguridad para
el usuario, seguridad del de qué, del
algoritmo. Pues bien, Anthropic cuando
habla de safety en realidad está
hablando de dos categorías distintas.
Y esas dos categorías distintas con las
que entienden el término seguridad
configura el sistema de gobierno de sus
modelos de lenguaje.
En inglés tienen dos palabras donde
nosotros tenemos una. Ellos hablan de
safety y de security y ambos conceptos
apuntan a problemas muy diferentes. La
safety del modelo Clot afecta a los
resultados que ofrece Cloud cuando se le
hacen peticiones, como, por ejemplo, eh
montar un arma biológica,
eh diseñar un esquema de fraude a nivel
masivo o ideas para suicidarse. ¿Vale?
Entonces, cuando alguien pide a Cloud
que lleve a cabo esas acciones, se
activa la safety a través de filtros en
el despliegue del modelo y a través de
negativas del modelo a hacer caso a un
usuario cuando le pide ayuda para eso.
La security para Anthropic es otra cosa.
La security protege al modelo en sí,
protege los pesos que tiene el modelo,
es decir, todas las conexiones
neuronales convertidas en números que
configuran la inteligencia de Anthropic.
Y las protege de quién, pues las protege
de actores estatales o de grupos muy
sofisticados de hackers que intentan
robar los pesos del modelo para
reproducir el modelo en un entorno en el
que no tenga ningún tipo de salvaguarda
y así poder llevar a cabo acciones
maléficas. ¿Vale? Pues la security
blinda al modelo de ese tipo de acciones
por parte de actores externos.
Una buena metáfora para entender estos
conceptos sería aplicarlos a un
automóvil, por ejemplo. Eh, los airbags,
los frenos configurarían la safety del
automóvil y la security se aplicaría a
la idea de blindar el automóvil para que
nadie pueda robártelo y modificarlo.
Pero lo más interesante de esta historia
de Anthropic es el sistema de gobierno
tanto de la empresa como de sus
productos que han diseñado.
El documento que define el carácter de
cloud es la Constitution AI,
efectivamente una IA constitucional
que el modelo lee durante la fase de
entrenamiento. Esta constitución de
Anthropic tiene dos puntos
fundamentales. una jerarquía de
prioridades y unos límites duros. La
jerarquía de prioridades establece el
orden de los criterios con el cual el
modelo tiene que juzgar una petición. ¿Y
cuáles son esas prioridades? Primero, la
seguridad. Segundo, la ética humana.
Tercero, las normas de Anthropic y
cuarto, la utilidad solicitada por el
usuario. De tal forma que cuando hay un
conflicto entre estos criterios, el
último criterio es la utilidad o la
funcionalidad del modelo. Por ejemplo,
si yo le pido a Anthopic que me dé ideas
para fastidiar a una persona a través de
una misiva,
eh Anthropic sigue un proceso en el cual
en el orden de prioridades lo último es
darme servicio, o sea, ser útil para mí
en ese propósito. ¿Por qué? Porque tiene
eh otros criterios que le dicen que no
lo haga.
Y luego están los límites duros del
modelo, la negativa absoluta de
Anthropic en la contribución o en la
ayuda a un usuario que esté buscando
hacer eh armas de instrucción masiva,
armas biológicas,
eh de un usuario que esté buscando
generar pornografía infantil
o de un usuario o de un grupo de
usuarios que estén intentando llevar a
cabo una concentración de medida de
poder en una nación o en una democracia.
Nadie se puede saltar los límites duros
del modelo, ni siquiera las personas que
trabajan en Anthropic. Y antes os decía
que esta Constitución ha sido elaborada
durante mucho tiempo con el input de
organizaciones y de personas muy
distintas. Hay algo curioso que notar,
que es que a mediados de marzo se
celebró una reunión en la que Anthropic
pidió ideas a 15 líderes cristianos
sobre el comportamiento ético del modelo
y luego os voy a contar algún detalle
más sobre esta reunión. Quien haya
seguido de cerca el desarrollo de la
inteligencia artificial estará
acostumbrado a escuchar términos muy
dramáticos, muy catastróficos sobre el
futuro de la humanidad con la IA. No
solamente porque actores maléficos
puedan usar estas capacidades, sino
porque las propias máquinas, los propios
superordenadores, eh terminen acabando
con la humanidad para conseguir los
objetivos que la propia humanidad les ha
dado. Bien, vale. Pues Anthropic decidió
en su día hacer un catálogo de todas las
calamidades que pueden llegar a ocurrir
con la inteligencia artificial y
conforme a eso ha establecido un sistema
de gobierno interno para sus ingenieros.
de tal forma que la compañía nunca
llegue a desarrollar sistemas
catastróficos para la humanidad sin una
serie de garantías. Y lo ha formalizado,
lo ha puesto por escrito y ha hecho
público a través de un documento que se
llama la responsible scaling policy, o
sea, la política de crecimiento
responsable de sus modelos. Y cuando
escuchas a los ingenieros de Antropic y
al equipo fundador están constantemente
hablando de esta política. ¿Qué es lo
que dice Antropóic? establecido una
serie de niveles de seguridad que van
del uno al cinco.
Esos niveles de seguridad corresponden a
riesgos y establecen una serie de
medidas para mitigar esos riesgos. A
estos niveles les llaman ASL, AF levels,
niveles de seguridad de la IA y están
inspirados en los niveles de
bioseguridad. Y a quienes seguís de
cerca el tema de la conducción autónoma,
os recordará los niveles de seguridad
que se han establecido en el mundo para
el desarrollo de esa tecnología.
Cada niebel exige medidas de seguridad
concretas en los dos conceptos de los
que hemos hablado, en la safety y en la
security. En el ámbito de la safety
establece filtros más estrictos y
también periodos de evaluación de los
riesgos que contiene un modelo. Y lo que
respecta a la seguridad interna, esta
policy establece qué controles humanos
tienen que ocurrir para hacer
modificaciones a los pesos del modelo. Y
esos controles van desde la aprobación
por parte de dos personas hasta una
serie de más de 100 controles de
seguridad. Y hay unos límites los cuales
nadie de Anzeropic puede hacer ninguna
modificación a esos modelos en el caso
de que entrañen riesgos sistémicos muy
grandes.
Y la RSP también incluye medidas para el
blindaje de los modelos. Cuando haya
alguien que intente llevar a cabo
cambios en la sociedad que impliquen una
modificación muy grande de las dinámicas
de poder o cuando haya actores estado
que intentan copiar el modelo.
Todas estas medidas suenan muy bien
sobre el papel. Pero, ¿qué ha pasado
cuando Anthopic se ha enfrentado a la
realidad de tener que tomar decisiones
concretas sobre qué hacer con sus
productos? Vale, pues hemos tenido
recientemente dos episodios que nos han
dado bastante información sobre esto. El
lanzamiento de un modelo que se llama
Clud Mos y el enfrentamiento de
Anthropic con la administración Trump,
en concreto con el departamento de
guerra. Lo vamos a ver a continuación.
Son los hermanos Amodei y la
organización Anthropic de Good Guys de
esta película. Son los buenos de la
película.
Bueno, pues el compromiso ético de una
persona o de una organización se mide en
función del coste que tiene ser bueno.
Por ejemplo, si uno está en un día muy
tranquilo, muy calmado, no tiene prisa,
y se encuentra una señora en un paso de
cebra, una señora mayor que le pide
ayuda, pues es relativamente fácil ser
bueno, ¿vale? porque uno no tiene prisa,
está en una situación muy calmada, pero
es muy distinto si en ese momento están
cayendo billetes del cielo y hay mucha
gente corriendo a los billetes,
entonces ahí es donde se pone a prueba
tu ética. O sea, que ser buenos es muy
fácil hasta que ser bueno te empieza a
costar dinero o disminuye tu posición
social en una organización. Y ser buenos
es mucho más difícil cuando tienes en
frente o en contra a todo un poder
estatal como el gobierno de Estados
Unidos. En el caso de Anopic, por
ejemplo, la compañía se ha negado, por
una decisión de los fundadores a prestar
cualquier tipo de servicio a regímenes
totalitarios. Eso es un coste económico
evidente para la compañía. ¿Vale? ¿Cuál
es la historia de esta polémica con
Donald Trump y con su gobierno y con su
departamento de guerra? Anthropic ya
trabajaba para la administración
americana en la época de Joe Biden, pero
lo hacía con dos condiciones y esas dos
condiciones derivan directamente de la
construcción de Cloud. Cloud impide que
sea utilizado como una herramienta de
vigilancia masiva de la población y
clock impide también que pueda ser
utilizado como parte de un sistema de
gestión de armas autónomas. Cuando llegó
el momento de renovar ese contrato en
febrero de este año con la
administración Trump, en este caso, la
administración Trump pidió a Anthropic
eliminar esas dos cláusulas. Ellos
querían trabajar, el ejército quiere
trabajar sin ningún tipo de
limitaciones, ¿vale? Y Daris se negó,
Anthropic se negó en redondo. Y claro,
no es una decisión fácil porque en una
situación de emergencia nacional el
Estado tiene derecho a absorber las
herramientas de las que tiene un país,
las empresas, su industria, su minería,
etcétera. Eso parece una cuestión como
bastante de sentido común, pero esta
compañía ha decidido no aceptar las
condiciones de su ejército. Es una cosa
muy fuerte que ha generado muchísima
polémica. Ante la negativa de Darío
Amodei de seguir prestando servicio al
ejército, Donald Trump decidió catalogar
esta empresa como una empresa de riesgo
para la seguridad nacional. Es decir, al
nivel al que están empresas chinas como
Huawei o otras compañías de Rusia que
trabajan o podían trabajar en el pasado
para el ejército americano, ¿vale? O
sea, que los calificó como de varias,
¿vale? Y eso le ha costado bastante
dinero a Anthelopic porque ha tenido que
desaparecer o ha tenido que cerrar los
contratos que tenía con distintos
ministerios del gobierno. Y la segunda
prueba a la que se ha expuesto Anthropic
ha sido el lanzamiento de su modelo Clot
Mizos. Ese modelo no ha llegado al
mercado y Anthropic ha decidido dejarlo
a una a un centenar de instituciones,
entre otras las grandes compañías
tecnológicas,
algunos bancos en Estados Unidos, ¿vale?
para que evalúe los riesgos que supone.
Yo en su momento hice un vídeo sobre
esta polémica y tengo que reconocer que
me equivoqué en mi diagnóstico porque
dije que aquello podía ser marketing del
pánico con los datos que tenía entonces
y atendiendo a la historia de Darío
Amodei y de algunas decisiones que había
tomado estando en Open AI, pues me
parecía que podía ser víctima de ese
impulso por eh meter miedo a la gente
para seguir creciendo. Vale, pues me
equivoqué. ¿Y por qué? Porque se ha
detectado más de 10,000
vulnerabilidades. O sea, Mizos es un
modelo muy potente a la hora de detectar
brechas de seguridad en cualquier
sistema.
Y tenemos el caso, por ejemplo, de
Mozila, la fundación que gestiona
Firefox, que ha detectado un montón de
brechas de seguridad y lo veis en este
gráfico, como en el último mes ha
detectado más brechas de seguridad que
en los últimos en el último año, ¿vale?
También ha habido investigadores que
utilizando mizos han conseguido quebrar
el sistema operativo del MAC. Ha habido
también bancos que alertados por los
riesgos que han visto en sus propios
sistemas han decidido contárselo al
gobierno de Estados Unidos, a la Casa
Blanca, y han decidido contárselo a
algunos gobiernos europeos, ¿no? O sea,
que el tema es muy serio y todavía no ha
terminado el periodo de 3 meses de
evaluación de este modelo y ya a partir
de ahí se decidirá eh si sigue su curso,
si se lanza al mercado o no se lanza al
mercado. Con lo cual ahí tengo que
reconocer mi error y tengo que reconocer
el nivel de prudencia que los hermanos
Amodei tuvieron en cuenta a la hora de
tomar una decisión como la de cancelar
el o suspender temporalmente el
lanzamiento de un modelo. Y el elefante
de la habitación es si Anthropic está
utilizando su relación con entidades de
y personas cristianas, en concreto con
la Santa Sede, con el Vaticano, para
mejorar aún más su imagen y vender su
producto a los católicos. Vale, pues
sobre este tema eh tengo que reconocer
que dispongo de información un poquito
privilegiada por mi relación profesional
con la Santa Sede, pero sí me gustaría
referirme a cómo ha sido la génesis de
esta relación entre Anthropic y la Santa
Sede. ¿Y qué es lo que explica? que
hubiera uno de los fundadores de
Anthropic llamado Crisolá, que es el
responsable de la integridad del modelo,
o sea, de intentar entender cómo
funciona el modelo por dentro, porque
esa persona estaba en la presentación de
una encíclica del Papa llamada Magnífica
Humanitas. Pues bien, abordaremos toda
esta cuestión del Papa y de Anthropic y
del Papa y la IA en un vídeo muy
próximo. O sea, que si te interesa este
tema, suscríbete para estar muy atento a
cuando surja ese vídeo.
El Vaticano desde hace cosa de 10 años
está estableciendo contactos con Silicon
Valley para ofrecerse a la hora de
inspirar a los laboratorios de
inteligencia artificial a tomar
decisiones de tipo ético o que
contribuyan al desarrollo de la persona.
Una consecuencia de esta relación ha
sido que a mediados de marzo se produjo
una reunión en la sede de Anthropic en
San Francisco entre Amanda Askel y otra
serie Crisolá y otra serie de personas
de Anthropic que se dedican a cuestiones
que tienen que ver con la personalidad
del modelo. Decidieron llamar a 15
personas de distintas confesiones
cristianas porque querían
específicamente recibir feedback del
ámbito cristiano. Y esa reunión, como
digo, se produjo y en esa reunión se
plantearon una serie de cuestiones de
fondo. Una cuestión de fondo
tiene que ver con el tratamiento de
personas que están en una situación
especialmente vulnerable y serían
preguntas que corresponden al ámbito del
acompañamiento espiritual. Por ejemplo,
¿qué puede decir Anthropic o Cloud a una
persona que está pasando un duelo? ¿Qué
puede decir eh Cloud a una persona que
está autodesionándose o a una persona
que está pasando por una crisis
matrimonial, etcétera, ¿no? O sea, que
se abordaron este tipo de cuestiones.
Una segunda gran cuestión que se planteó
eh respondía a qué harán clot
amenazada porque vaya a ser apagada.
Vale, estas preguntas que se hacen los
los tipos de la inteligencia artificial.
Y un tercer bloque de cuestiones que se
abordaron tienen que ver con eh la
posibilidad de que ante determinadas
emociones que aparecen eh dentro del
modelo en las que no ha sido entrenado,
si eso conllevaría que el modelo está
ganando una percepción de
autoconciencia. Vale, son cuestiones muy
muy de fondo y en esto eh, en fin, por
lo que ha publicado el Washington Post,
sabemos que una amplia mayoría de las
personas que fueran consultadas están
absolutamente convencidas de que eh una
máquina no puede tener eh espiritualidad
ni puede tener conciencia. Vale, este es
un tema controvertido, lo sé, pero
bueno, esa fue la opinión que
trasladaron estas personas que
estuvieron en esta reunión. Por lo
tanto, existe una relación entre
Anthropic y la Santa Sede y existe
también bastante afinidad en torno a
cuestiones que son muy relevantes sobre
el futuro de la humanidad con la IA. Y
eso es lo que ha motivado. Una decisión
que creo que ha sido un poquito polémica
porque evidentemente eh 100 millones de
católicos saben ahora que Anthropic es
gente maja, por así decirlo, y eso puede
ser discutible. En cualquier caso, todo
esto de la fe, de la relación de la
Iglesia con la inteligencia artificial,
lo abordaré en un próximo vídeo en el
que voy a analizar algunos aspectos que
me han llamado la atención de la última
encíclica del Papa y de cómo se ha
construido esa encíclica.
Estáis viendo ahora una reunión eh en
vídeo de los siete fundadores de
Anthropic y una de las cuestiones a las
que aluden es a cómo ellos buscan la
excelencia de la calidad de sus modelos,
precisamente para llamar la atención a
otras compañías de inteligencia
artificial sobre la necesidad de contar
con garantías de seguridad. O sea, es
como si alguien dijera, "Mira, es que
para que otros sigan mi ejemplo en lo
bueno que soy eh éticamente necesito que
mi producto sea extraordinariamente
bueno." ¿Vale? Y entonces, claro, hemos
visto muchas veces en la historia de los
negocios como a veces eh
el ceder ante oportunidades de negocio
por cuestiones de tipo ético ha podido
conducir en la historia algunas empresas
a perder dinero, pero en muchísimos
casos ha podido contribuir a que las
empresas decidan no hacer caso a sus
criterios éticos porque quieren seguir
ganando dinero. ¿Vale? Pues en este
caso, en el de Anthropic tenemos una
circunstancia muy curiosa y es que toda
esa doctrina y esos esquemas de
funcionamiento interno de la compañía
han contribuido a que sus modelos sean
un gran éxito comercial. Hasta el punto
de que Anthropic, que hace un año era el
underdog del sector, ahora está en una
situación de liderazgo en todos los
parámetros de calidad de los modelos y
parámetros económicos. El money.
Hey, ¿qué tal? Os voy a enseñar un par
de gráficos para que veáis las
dimensiones del crecimiento de Anthropic
y la velocidad a la que está creciendo
esta empresa. Lo primero que os enseño
es este gráfico espectacular en el que
estamos viendo el crecimiento en
ingresos de Anthropic en esta línea
roja, ¿vale? Versus contra los eh la
facturación. de Open AI. Veis como Open
AI durante muchísimo tiempo ha sido el
líder del mercado, pero Anthopic no solo
ha logrado alcanzar a Open A en
ingresos, sino que lo está superando
ampliamente. Y ahora os enseño un
gráfico aún más impresionante. ¿Qué
estamos viendo aquí? Estamos viendo aquí
la facturación de empresas como Meta,
Facebook, Amazon, Google y Anthropic,
¿vale? Y estáis viendo que efectivamente
y la facturación cuándo en los primeros
cinco o 6 años de vida de esa compañía,
¿vale? O sea, que Anthropic es la
compañía que más rápido ha crecido entre
las compañías de software, entre las
compañías digitales. Pero es que lo que
estáis viendo ahora es el gráfico
logarítmico, o sea, no os hacéis una
idea de la diferencia que hay de
ingresos entre unas y otras. Este es el
gráfico lineal. Este es el crecimiento
de Anthropic en 6 años y aquí quedan
Google, Amazon y Meta.
¿Y cómo ha logrado Anthropic este nivel
de éxito? La explicación rápida y
sintética es que ha andado con un filón
de oro. El mercado de la inteligencia
artificial es un mercado de búsqueda de
oro y en esa búsqueda de oro hay mucha
gente buscando en muchos sitios. Pues
Anthropic ha sido la primera que ha dado
con un filón de oro y esto en el ámbito
de la tecnología y de las startup se
llama product,
el encuentro entre la oferta de producto
y la realidad del mercado cuando se
cruzan.
¿Cuáles son las claves del éxito de
Anthropic? Voy a mencionar cuatro. La
primera clave es el foco. Es una empresa
muy disciplinada en un mercado, el
mercado de las empresas y el mercado de
los profesionales. Y dentro de todos los
servicios que puede ofrecer a ese
mercado, se han centrado en el servicio
que tiene un valor económico mayor en la
actualidad. ¿Y cuál es ese segmento? el
segmento del código de la programación
cuyo valor agregado en el mundo en este
momento está en el entorno de los 2
trillones americanos de dólares, o sea,
2 billones de dólares.
Anropic, por lo tanto, ha decidido
autoexcluirse del mercado de consumo, el
mercado de las imágenes, de los memes,
el mercado del vídeo, el mercado de la
inteligencia artificial aplicada a la
música o el mercado incluso de las
búsquedas a través de inteligencia
artificial. Todo eso fuera excluido del
plan. Y esto tiene entre otras una
ventaja muy grande y es que la inversión
en chips para inferencia, o sea, la
inversión en estructura, en fábricas de
inteligencia es mucho menor. Y es muy
probable que Anthropic en ese sentido se
haya pasado un poco por lo bajo, ¿vale?
Y eso explica algunas dificultades que
está teniendo para prestar servicio a
sus clientes, cosa que hemos visto en
este vídeo. Este foco de Anthropic en el
mercado del código y en el mercado
empresarial ha producido frutos
prodigiosos, como por ejemplo el hecho
de que hace unos días el CEO de la
compañía Sales Force, que es una de las
compañías de software más grandes del
mundo, ha dicho que el gasto en
servicios de código de Anthropic durante
este año ascenderá a los 300 millones de
dólares, un solo cliente. Y claro, ¿por
qué las grandes compañías en todo el
mundo están apostando por Anthropic? No
solamente por la calidad de su producto
de desarrollo de código, sino por
aquello que configura el núcleo de la
existencia de Anthropic, que es la
seguridad. En una gran empresa, y esto
lo experimentamos todos, cuando llega el
momento de tomar una decisión sobre el
software que se va a usar, un criterio
absolutamente esencial es la seguridad.
¿Y a quién vas cuando necesitas
seguridad y garantías de esa seguridad?
A una compañía que haga eso de una forma
extraordinaria. La segunda clave del
éxito es el harness, el arnés del modelo
de lenguaje. ¿Qué es el arnés de un
modelo de lenguaje? Te lo explico
fácilmente.
Un modelo de lenguaje es como un cerebro
metido en un frasco. Es capaz de
predecir la siguiente palabra con todo
el entrenamiento que tiene, pero no
tiene conexión con archivos. no recuerda
cosas que le hemos preguntado en otro
momento, no es capaz de ejecutar
acciones y tampoco sabe cuándo ha
terminado una tarea. ¿Vale? Pues todo
eso, el arnés del modelo es código que
se aplica al modelo de lenguaje. El
harness, el harnessés de un modelo de
lenguaje, en definitiva, es el cuerpo eh
que le pones a ese cerebro y ese cuerpo
le va a permitir identificar exactamente
la intención que tienes cuando estás
haciendo una un prompt, una instrucción
al modelo. recordar conversaciones que
que has tenido antes, especificar el
nivel o el volumen de contexto que tiene
una instrucción en función del tipo de
instrucción que le das, etcétera,
etcétera, etcétera. Y en este sentido,
el valor de Anthropic no está solamente
en la calidad del modelo de lenguaje
cloud, sino está sobre todo y es lo que
le diferencia de otras compañías en el
harnessing del modelo. Tercero, una
velocidad y introducción de nuevos
productos que resulta muy difícil de
seguir, incluso para los propios
usuarios de cloud.
Esta
velocidad de ejecución de nuevos
productos es posible en gran medida
gracias a la calidad del código que
desarrolla el propio cloud. O sea, que
aquí tenemos a un grupo de ingenieros
muy capaces y de gestores de producto
muy capaces, acompañados por un gran
modelo de código.
Y cuarto elemento de la estrategia
ha sido cómo Anthropic ha ido atacando
un mercado o un segmento de mercado tras
otro.
Han lanzado productos especializados en
el ámbito jurídico, han lanzado
productos para pequeñas empresas, han
lanzado soluciones en el ámbito de la
salud, han lanzado soluciones para
inversores. ¿Y qué ha ocurrido? El día
después de que Anthropic lanzara esas
nuevas soluciones especializadas,
la cotización de las empresas de
software que estaban especializadas
anteriormente en esos mercados ha caído
de forma muy dramática hasta el punto de
que en Silicon Valley se habla del SAS
Apocalypse, del apocalipsis del mercado
SAS de las empresas de software. Estas
empresas SAS, para que nos entendamos,
son empresas que venden aplicaciones,
pero que en lugar de hacerte una venta
de una licencia por una vez para toda la
vida, te cobran mensualmente en función
del número de personas dentro de una
corporación que utilizan ese software.
¿Vale? Pues este sector está muy en duda
en este momento y 22 de las 30 empresas
de SAS que están en bolsa en Estados
Unidos han visto caer su catición
durante este año, sobre todo por culpa
del lanzamiento de productos nuevos de
Anthropic, de tal forma que el gran
secreto de Anthropic es hacer un buen
producto y enfocarse de modo muy
disciplinado en una dirección. Steve
Jobs decía que la estrategia
fundamentalmente
consiste en decidir que no vas a hacer.
Y este consejo lo ha seguido Anthropic
con gran disciplina y con gran maestría.
Y ahora llega el momento de hacer
balance.
Y después de hacer el análisis que hemos
venido haciendo en este vídeo, ¿qué idea
tengo yo sobre Anthropic? Respecto a la
pregunta que nos formulábamos al
principio es que si son los buenos de
esta película. Pues hay cuestiones que a
mí me llaman positivamente la atención.
Me llama la atención que el grupo
inicial de fundadores, que son siete
personas, siguen trabajando en la
compañía después de 5 años y después de
experimentar un crecimiento
absolutamente desbordado.
No hay muchos precedentes de que en una
empresa de Silicon Valley, donde abundan
los egos, esto se haya reproducido, lo
cual es un síntoma de que los hermanos
Amodei están haciendo algo muy bien.
Otra cosa que llama positivamente la
atención es que definieron un modelo de
arquitectura de producto y de
arquitectura de organización en el que
la prioridad es lo que ellos han
definido como safety y como security. Y
la historia
ha demostrado que han sido coherentes
con esa visión y han sido coherentes
asumiendo a veces costes económicos o
costes de prestigio o de reputación en
un mercado como es el mercado de Estados
Unidos. Y creo que eso tiene mucho
valor. Lo paradójico de este caso es que
asumiendo ese coste que tiene a veces
decir que no a oportunidades de negocio
para decir que sí a tus principios, es
que se ha convertido
en un elevador de la reputación
corporativa de la compañía y de sus
productos. O sea, que parece que les ha
salido bastante bien. Los cínicos dirán
que todo es eh green washing, buen
rollito washing, etcétera, pero de
momento las pruebas que tenemos de su
comportamiento testifican que Anthropic
está siendo fiel a lo que quiere ser. Y
por último, de nada serviría ir por el
mundo con la bandera de soy buena
persona y hago cosas buenas si tus
productos no tienen un nivel de calidad
muy elevado. Pues creo que a día de hoy
tanto el modelo de lenguaje clot como el
harness, que es un concepto que hemos
aprendido en este vídeo, eso espero,
atestiguan que efectivamente sus
productos son de una calidad altísima.
¿Y qué cosas pueden ir mal en esta
historia? Evidentemente la competencia,
el mercado de la inteligencia artificial
todavía sigue siendo un mercado en el
que las ventajas que uno tiene a día de
hoy las tendrán modelos tanto americanos
como chinos dentro de 6 meses. O sea,
que parece difícil eh que una compañía
de inteligencia artificial pueda tener
lo que se llama un mode, un foso de
competencia, una ventaja competitiva que
le permita eh hacer que su éxito sea
sostenible en el tiempo. Eso en el caso
de Anthropic está por ver. Una cuestión
que también debería empezar a preocupar
a los gestores de esta compañía es el
ROY, o sea, el retorno de la inversión
que tiene el uso de la inteligencia
artificial, porque estamos empezando a
ver señales de cómo ese hábito de
algunas grandes corporaciones
americanas, que es el token maxing, o
sea, la idea de a ver quién consume más
tokens de inteligencia artificial está
provocando que el coste de la
inteligencia artificial suba hasta el
punto de que hay compañías como
Microsoft que han eliminado cloud entre
las opciones que tienen sus empleados
para producir código. Y por último,
amigos míos, pues es difícil mantener un
nivel ético excelente en una corporación
durante muchos años y un nivel de
calidad de los productos también, ¿vale?
O sea, que tampoco quiero dar la
sensación de que estoy idealizando con
este vídeo a Anthropic. En toda compañía
hay unos equilibrios entre los
incentivos, el incentivo económico, el
incentivo del crecimiento. Antrópica,
además, durante este año saldrá a bolsa
y empezará a tener un control mucho
mayor de sus cuentas y a tener mucha más
presión por parte de los inversores. Y
luego está el incentivo de hacer el bien
y en la medida en que Anthropic vaya
creciendo y vaya siendo más importante
en el mercado y más influyente y en la
medida en que vaya desarrollando
productos de mayor inteligencia cada vez
pues digamos que las tensiones entre los
incentivos cada vez serán mayores y
caerán los hermanos amodei y en las
garras de alguna megacorporación o de
algún país que robará su código. No lo
sabemos. Pero para ir siguiendo esta
historia fascinante de la inteligencia
artificial y de su aplicación en el
mundo, eh solo os quiero recomendar que
os suscribáis al canal si no lo estáis.
Pero antes de despedirme quería
preguntaros, ¿estáis de acuerdo en el
diagnóstico que he hecho de Anthropic?
¿Qué debilidades veis a mi
argumentación? Vamos a los comentarios.
Si pensáis que Anthropic no son los good
guys de esta historia, ¿quiénes son para
vosotros esos good guys?
Y tercero, ¿pensáis que la búsqueda del
bien, por así decirlo, o la seguridad
hará que las grandes empresas nunca
utilicen los modelos chinos de
inteligencia artificial? Es otra
cuestión también para el debate.
More transcripts
Explore other videos transcribed with YouTLDR.
CloComp 2526 Hashing 1
Bel V B · English
ANSYS FLUENT TUTORIAL : CFD Analysis of An Acoustics Louver | Turbulence and Acoustic Performance
Ansys-Tutor · Persian
5 Penyebab Tim Kamu Tidak Kompak | The Five Dysfunctions of a Team
Si Kutu Buku · Indonesian
They're Moving In!
Nick Nayersina · English
دبلومة مهندس مكتب فني كهربي - الباب الثاني - الدرس الخامس - الرسومات التنفيذية لنظام Queue 1/2
Mohamed Faramawy - محمد فرماوى · Arabic
شور - هيهات منا الذلة - كربلائي حسين طاهري 4K ©️
عشاق المجالس eishaq almajalis · Arabic
Obrolan Hangat Bersama Kepala BGTK Sumatera Selatan
kojakito · Indonesian
Praktikum Sifat Koligatif Larutan (Tekanan Osmosis Pada Kentang)
Agus Kamaludin · Indonesian
[ DARING ] XI RPL 2 - Kegiatan Minggu Pertama
ebadrus.com · Indonesian
Sesi 1 | Memahami Esai Secara Luas
Rita Primayuni · Indonesian
Why 99% of Power Bank Reviewers Are WRONG! (UGREEN Nexode 200W Test)
TechDayEveryDay · Polish
Milenial Anti Narkoba - BNN Short Movie
Lembaga Administrasi Negara RI · English
Get the TLDR of any YouTube video
Transcribe, summarize, and repurpose videos in 125+ languages — free, no signup required.