Logo Umeet2001

ESPAÑOL
Presentación

Programa

Desarrollo

ENGLISH

Presentation

Programa

Desarrollo


fernand0Vamos allá
daniredes?
daniok
viZardle intentamos, pero no es muy fiable
*** fernand0 changes topic to "19:00 - David Santo Orcero (España) - Distributed Filesystems for Linux clusters. English live translation in #redes"
fernand0vamos allá
fernand0Hola,
fernand0es un placer para nosotros presentar a David Santo Orcero.
fernand0Nacido en
fernand0Málaga, después de una estancia en Brasil, volvió recientementea su ciudad
fernand0de origen. Trabaja como administrador y consultor.
fernand0Sus intereses son muy amplios, siendo los relativos a paralelismo,
fernand0clusters, y otros 'monstruos' similares lo que más podemos encontrar en
fernand0diversas publicaciones con las que colabora.
fernand0Su conferencia de hoy se titula: 'Distributed Filesystems for Linux
fernand0clusters'.
StonJUA
fernand0Agradecer a todos los presentes su asistencia, y a David su conferencia.
fernand0Sr. Orcero ...
irbisComienzo
irbisHola a todos
Pablisi en verdad es un placer
irbisVamos a hablar de sistemas de ficheros distribuidos para clusters.
irbis En lugar de perdernos en divagaciones teóricas sobre a qué suena
irbisun aplauso de una sola mano en un bosque donde solo hay un sordo,
irbisnos centraremos en el aspecto práctico de estos sistemas de ficheros,
irbisy en su dia-a-dia.
irbis Vamos a estudiarlos uno a uno
irbisal final de cada sistema de ficheros
irbiscomento bibliografía y respondo a preguntas
irbis Para esta conferencia, y después del ladrillazo del último año
irbis-en inglés; larga como discurso de Fidel Castro, pesada como el
irbislevítico y el deuteronomio cantados en latín- he intentado hacerla
irbisun poco más viva y animada.
irbis Y viendo que los hispanohablantes son
irbismayoría, y que hay traducción automática, vamos a hacerla en Español.
irbisComencemos por partes, ¿de qué vamos a hablar?
irbis De sistemas de ficheros de alto rendimiento:
irbis1) PVFS
irbis2) DFSA+MFS
irbis De sistemas de ficheros de alta disponibilidad:
irbis1) Coda
irbis2) Intermezzo
irbisDe otros engendros:
irbis1) OpenGFS
irbis 2) RAID en red
irbis(o mejor dicho, los tres RAID en red)
irbis Lo primero, las malas noticias:
irbisninguno de los anteriores es la piedra filosofal.
irbis La  buena: sobre determinadas circunstancias, algunos son útiles y todo.
irbis Sin que el hecho de que exista implique que funcione
irbis (que bonito me ha quedado, creo que voy a patentar la frase)
irbisvamos a ir uno a uno con los sistemas de ficheros para clusters.
irbis PVFS:
irbis PVFS es parte del projecto Beowulf, pero se ha desarrollado más lentamente.
irbis Ahora comienza a ser funcional en entornos de producción
irbis Está implementado en el kernel, debajo del VFS
irbisNO forma parte de la distribución estandar del kernel
irbis Eso significa que nuestras aplicaciones lo ven como un sistema de ficheros cualquiera
irbis Además de esto, se puede usar también a través de un API propio
irbis La diferencia es que los datos no se encuentran físicamente en un único nodo
irbis Los datos se encuentran dispersos por todos los nodos del cluster
irbis Es como el stripping de RAID, pero a nivel de clustering
irbis Pros:
irbis Aumenta el rendimiento de las aplicaciones concurrentes.
irbis Si se usa el API específico de PVFS, el incremento de rendimiento llega ser espectacular.
irbis FUNCIONA -en el último año, en todo lo relativo al kernel hay que dejar eso claro-.
irbis Peeeeeeeeeeeeeeero:
irbis PVFS ES ANTI-TOLERANTE A FALLOS.
irbis Si cae cualquier nodo del cluster PVFS, lo hemos perdido TODO
irbis  Por lo tanto, pensemos en PVFS como una excelente solución para alto rendimiento -de momento,
irbislo mejor que se puede encontrar-, pero que no sirve en absoluto para alta disponibilidad ni
irbispara tolerancia a fallos.
irbis Bibliografía:
irbis Sistemas de ficheros distribuidos: el Parallel Virtual File System
irbis Este artículo debería aparecer en la Todo Linux de este mes, o en la
irbisdel proximo mes
irbisTambién hay abundante documentación de implementación y uso
irbispero en inglés
irbis¿Alguna pregunta sobre PVFS?
irbis¿Dormidos?
irbisEs normal. ;-)
irbisPasamos al siguiente, MFSç
irbisMFS: Mosix File System.
irbis  La idea es muy similar al del PVFS
fernand0stop
fernand0estaba moderado
fernand0preguntas ?
irbisA, vale. :-)
irbisVenga, preguntas
viZardirbis: elñ PVFS solo seria bueno usarlo para RAID ?
irbisNo  es exactamente la idea de PVFS
irbisLa idea del PVFS es que tienes un sistema de archivos
irbisen el que tienes distribuido por un cluster completo los datos
irbisni significa que hagas RAID
irbisde hecho, no puedes hacer RAID encima
irbisya que PVFS te va a dar un directorio para jugar, no un dispositivo
irbisahora, nada impide que pongas RAID debajo
viZardya que dices que no es tolerante a caida de nodos, entonces no seria conveniente _montar_ nodos =)
irbisde hecho, recomendaría en un entorno de producción RAID mirroring debajo
irbispor hard o por soft
viZardgracias
irbispor cierto, el raid por soft en linux es MUY rápido
viZardno mas preguntas =)
irbisNo ten entiendo lo de montar nodos.
irbisTe puedo decir que para partición de scratch
irbispara un tmp o para un arena
irbispuede ir a pelo
irbissi hablamos de algo más serio
irbises una buena idea tener RAID mirroring debajo,
irbisy una política de backups inteligente
viZardgracias =)
irbishe respondido tu pregunta, viZard?
viZardsip =)
irbisAlgunas pregunta más?
irbisQuiero hacer enfasis en que PVFS funciona,
irbisy que si usamos su API propio vamos como motos
irbis-aunque no es imprescindible usarlo-
irbisAlguna pregunta más?
irbisContinuo?
irbisContinuo
irbis MFS
irbis-o mejor dicho, MFS+DFSA-
irbisEl concepto es como PVFS
irbisMFS nos dá un sistema de ficheros en el que los datos están distribuidos por el cluster
irbisPor otro lado, MFS y PVFS se parecen lo que la velocidad y el tocino
irbisSe mezcla con la semántica de Mosix de migración transparente de aplicaciones.
irbisCon Mosix es interesante, si no tenemos Mosix, no sirve para nada.
irbis Para entender la idea básica del MFS, vamos a ver un escenario Mosix.
irbis(el escenario es real, y MUY frecuente)
irbis Tenemos un proceso, que se llama mi_proceso
irbis El proceso se genera en el nodo nodo_org
irbis El proceso emigra al nodo nodo_dest
irbis Y quiere acceder a un bloque que se encuentra en nodo_dato
irbis¿Como resolvemos el problema?
irbisSolución inteligente:
irbis mi_proceso pide el dato a la capa VFS de nodo_dest
irbis La capa VFS de nodo_dest le pide el dato al servidor de nodo_dato
irbis El servidor en nodo_dato le sirve el dato a la  capa VFS de nodo_dest
irbis La capa VFS de nodo_dest le sirve el dato al proceso mi_proceso
irbis(faaaaaaaale, he simplificado mucho, pero quedaos con la idea)
irbis ¿Esto es lo inteligente, no? Pues veamos lo que hace Mosix:
irbis mi_proceso pide el dato a la capa VFS de nodo_dest
irbis La llamada a la capa VFS es interceptada por Mosix en nodo_dest
irbis Mosix en nodo_dest transmite la llamada a Mosix en nodo_org
irbis Mosix en nodo_org le pasa la llamada a la capa VFS de nodo_org
irbis(un minuto, me he perdido)
irbisFale
irbis La capa VFS de nodo_org le pide el dato al servidor de nodo_dato
irbis El servidor en nodo_dato le sirve el dato a la  capa VFS de nodo_org
irbisLa capa VFS de nodo_org le sirve el dato al proceso mi_proceso
irbis O eso piensa que hace, porque la llamada es interceptada por Mosix en nodo_org
irbis Mosix en nodo_org le pasa el resultado de la llamada a Mosix en nodo_dest
irbisMosix en nodo_dest engaña a la capa VFS de nodo_dest, y le pasa el resultado
irbisLa capa VFS de nodo_dest le devuelve el resultado al proceso mi_proceso
irbis Y ya está. Es solo esto. }:-)
irbisMUY simplificado.
irbis Esto es lo que hace a Mosix tan ineficiente con tareas ligadas al procesador
irbis (tareas cuyo cuello de botella es la velocidad del procesador)
irbis La solución es el DFSA
irbis -Direct File System Access-.
irbis La idea es que:
irbis Si mi_proceso emigra de nodo_org a nodo_dest
irbis Y además el dato está en nodo_dest
irbis Y el sistema de ficheros local es MFS
irbis Entonces, y solo entonces, se permite escribir localmente a un proceso emigrado
irbisPros:
irbis Convertirá a Mosix en una solución válida para procesos ligados al disco.
irbisContras:
irbis Sin Mosix, no tiene sentido
irbisSin MFS no tiene sentido
irbisAnti-tolerante a fallos
irbis Aún está en beta: interesante para investigar, aún verde para entornos de producción
irbis(mis deedossss)
irbis Un poco de paranoia:
irbis DFSA hecho por el autor de NFS
irbisperdon, MFS
irbisPor y para MFS
irbisDFSA soportaba OpenGFS, no lo soporta más
irbis DFSA nunca ha intentado soportar otra cosa, a pesar de que hay mejores tecnologías
irbis A pesar de estar bajo GPL, Mosix sigue un modelo de desarrollo cerrado y de catedral.
irbisA pesar de corteses y agradables, la gente de Mosix no publica un roadmap ni información de
irbisdonde quieren ir a parar.
irbis Por ello, dudo que DFSA soporte algo fuera de NFS. Y Mosix no a avanzado ni en este
irbisoooootra vez
irbisMFS
irbis Por ello, dudo que DFSA soporte algo fuera de MFS.
irbis Y Mosix no a avanzado ni en este aspecto ni en el de los sockets hace muuuucho tiempo.
irbisFIN MODO PARANOIA
irbisConclusión:
irbis DFSA prometía hace un año.
irbis No parece avanzar.
irbis Aún queda mucho por hacer.
irbis Bibliografía:
irbis www.mosix.org
irbis (Hay cosas publicadas en español sobre Mosix, ahora está saliendo una serie de
irbis artículos sobre Mosix mia en MundoLinux pero nada -que sepa- sobre DFSA ni MFS.)
irbisPreguntas?
irbisPreguntas?
irbisPreguntas?
irbisPreguntas?
irbisSi no hay preguntas, hemos terminado la parte de alto rendimiento
irbisNo hay más para clusters de alto rendimiento
irbisy hablamos de alta disponibilidad
irbisContinuamos
irbisAhora pasamos al tema de alta disponibilidad
irbisComo podemos suponer
irbislos sistemas de ficheros de alta disponibilidad son más lentos que los de alto rendimiento
irbisLa mala noticia es que son rematadamente más lentos que los sistemas de ficheros normales
irbisY algunos de ellos se arrugan ante carga real
irbisLos que voy a comentar aquí
irbislos he puesto a trabajar con postgres y pgbench
irbisComenzamos con Coda
irbisImaginaos ir a cazar liebres.
irbisVisualizadlo
irbisSolo que vais montados en brontosaurios, y llevais tiranosaurios como perros.
irbisBienvenidos al mundo de coda.
irbis Vamos a verlo con más detalle:
irbisCoda permite arquitectura cliente y servidor
irbisEl servidor corre en area del usuario
irbisEl cliente ya está incorporado en el kernel
irbisCoda es MUY robusto
irbisCoda permite replicación de servidores
irbisCoda gestiona backups de servidores
irbisCoda gestiona backups incrementales de servidores
irbisCoda usa ACLs
irbisCoda ha sido portada a muchas plataformas
irbis Su calidad es excelente
irbisAguanta la carga sin arrugarse
irbis Coda permite uso desconectado
irbisCoda nos da de una SSI de disco completa
irbisY todo eso lo hace el sistema de ficheros
irbishace hasta la autentificación
irbisExplicamos conceptos:
irbisreplicación de servidores: tenemos tolerancia a fallos, ya que cuando
irbiscerramos un fichero en el cliente y este cliente fué actualizado, la
irbis actualización se propaga a todos los servidores replicados. La caida
irbisde un servidor no supone perdida de datos ni parada del sistema.
irbis ACL: Access Control List. Un sistema de permisos más avanzado que el
irbis de Unix, que tiene más tipos de privilegio, y permite especificar pares
irbis(usuario, privilegio)
irbiscuando creamos un volumen coda, podemos especificarle a coda la política
irbisde backups. CODA NOS HACE LOS BACKUPS
irbisSi usamos coda, podemos desconectar los servidores entre sí, clientes y
irbisservidores... podemos pedirle al cliente que recuerde unos archivos, llevarnos
irbisel portatil de vacaciones, modificar los archivos y sinctronizar los datos
irbiscuando volvamos. O incluso obtener nuevos ficheros por teléfono.
irbis  Es decir, estamos ante un sistema muy probado, muy estable, muy profesional...
irbisY MUY GRANDE
irbisEn el último cluster que he montado con Coda
irbisEl daemon codasrv ocupa 300Mb de RAM
irbisNo, no me que equivocado, trescientos megas de ram
irbisEso chupa memoria como un poseso
irbis Además, la documentación de desarrollo es excelente, pero la documentación para
irbisel administrador es malísima, y está desfasada.
irbis Pros:
irbis Coda hace de todo
irbisCoda es sólido y robusto
irbisCoda ya está en el kernel
irbis Se monta encima de ReiserFS, y además aguanta el tirón de cables
irbisLa comunidad de coda es maravillosa
irbisno tienen problemas en responder preguntas, hasta las más estúpidas
viZardhttp://www.coda.cs.cmu.edu/
irbisJan, el tipo que se esta currando ahora coda, no va de elite
irbisExacto, viZard. Es ahí.
irbisPues eso, es gente que no va de elite.
irbisEso ayuda mucho, y compensa la pésima documentación.
Elizsaludos a todos!
irbisPor tanto, 10 al soporte y a los creadores
irbisContra:
irbis El tamaño del servidor es monstruoso en aplicaciones reales
irbis Monstruoso significa 300Mb de codasrv en RAM en un cluster real que he instalado hace poco
irbisY la cosa es que el servidor va de muerte
irbises una cosa excelente
irbispero son 300Mb!!!
irbisConclusión:
irbis Coda se diseñó para servidores de ficheros dedicados en entornos profesionales,
irbisdonde puedes poner todos los billetes que quieras encima de la mesa, pero son
irbisimprescindibles un conjunto de propiedades del sistema de ficheros. El mejor para
irbis empresas medianas y grandes, campus universitarios y departamentos. Un excelente
irbissistema de ficheros que, entre sus muchísimas propiedades, está hacer unos excelentes
irbisservidores tolerantes a fallos.
irbisPregunta común:
irbis¿Que usas para comunicar tu portatil con el servidor de tu casa?
irbisRespuesta, en mi casa, ahora uso Coda
irbisPuede que si Intermezzo pase las pruebas de fatiga, me pase a intermezzo
irbispero Coda es tremendamente sólido, y de momento es impresionante.
irbis Bibliografía:
irbis Va a salir una serie sobre Coda en TodoLinux. Todavía no se cuando.
irbis Hay también un HOWTO de coda, que forma parte del LDP.
irbisEs muy antiguo, pero algunas cosas funcionan todavía.
irbis Y ahora, 12 lineas de descanso, con una cuña publicitaria. O:-)
irbis No se retiren de las pantallas.
irbis>------------------------------------------------------------------------------------------<
irbisCUÑA PUBLICITARIA
irbis Interesados en linguística computacional libre: http://www.computationallinguistics.org
irbis Interesados en bioinformática libre: http://www.freebioinformatics.org
irbis Son unos weblogs en los que intento encontrar una masa critica de comunidad interesada
irbisen el desarrollo de software libre para estos temas. Si alguien está interesado en colaborar,
irbistraducir, o poner noticias de eventos o de software libre para estos temas, le animo a
irbiscolaborar.
irbis FIN CUÑA PUBLICITARIA
irbis>------------------------------------------------------------------------------------------<
irbisPerdón, tenía que soltarlo.
fernand0pregunta
irbisO._-)
irbisPreguntas?
fernand0yo
fernand0si coda es tan monstruoso?
irbisSi, fernand0
fernand0que sentido tiene usarlo para una red casera?
irbisFácil.
fernand0no hay alternativas mas 'pequeñas' ?
viZardCoda en si tambien tiene software de clustering ?
irbisCoda me lo hace todo.
fernand0y la ram está barata ;)
irbisYo tengo una máquina en mi casa que tiene mucha memoria --256Mb-
irbisy tengo un portatil, en el que hago roaming
irbisprogramo, escribo artículos
viZardCoda en si tambien tiene software de clustering, o tambien funca con Moxix, Beowolf, etc ?
irbismi mujer hace lo mismo con su portatil
irbislos dos necesitamos operación desconectada
irbispoder trabajar en cualquier lugar, y sinctronizar los datos
irbisademás, coda me hace los backups
irbispor tanto, por ello escogi coda
irbiscomo lo tengo en mi casa, ocupa menos -80Mb-
irbisde RAM
CtrInt80Mb para cuanto espacio de disco?
irbispero en un entorno profesional con muchos usuarios, 300Mb
irbisPoco, 120Gb.
irbisTengo tres discos de 40 haciendo RAID por soft
CtrInten otras palabras... ¿de que depende el consumo de codaserv?
irbisvan como una moto
gccpregunta: coda puede ser utilizado para sistemas donde se requiera respuesta rapida por parte del servidor digamos en sistemas web?
irbisDel espacio disponible en el volumen, y del número máximo de archivos del sistema de ficheros
irbisDepende de la velocidad de la red
irbisMe explico
irbisCon algunos ajustes, postgres va sobre venus y coda
irbisno hay problemas reales en lanzar apache sobre venus, y venus sobre varios codas
irbisaunque si te soy franco, ahi entramos más en el área de Intermezzo
irbisque es de lo próximo que hablaré.
irbisCoda funciona para todo esto, pero va claramente lento.
irbisAhí sale el proyecto Intermezzo, de los mismos autores de Coda, que implementa el 80% de la funcionalidad de coda
viZardque es venus ?
irbispero funciona rápidamente
irbisUn minuto quye rebovine, a ver las preguntas
irbisque falta por responder
irbisCoda no tiene un software específico para clusters
irbiscoda permite replicación en los servidores
irbispor ello, podemos jugar con esto, y poner un cliente y un servidor por máquina
irbisreplicar servidores
irbisy hacer tolerante a fallos el cluster
irbisfunciona. Lo he hecho.
irbisPero no tendremos un software específico, es apenas emplear las MUCHAS funcionalidades de coda.
irbisLa idea real detrás de coda es de tener un servidor de sistemas de ficheros replicado por el campus
irbiscon gran cantidad de usuarios tirando de cada servidor
irbisy la posibilidad de que los usuarios se desconecten del servidor, o que los servidores se desconecten entre sí
irbiso incluso tolerancia total a la caida de cualquier servidor.
irbis¿Que es venus?
irbisVenus es el cliente de coda
irbisSe ejecuta parte en área de kernel,y parte en área de usuario.
irbis¿He respondido vuestras preguntas?
viZardse puede usar conjuntamente con Mosix, Beowolf, etc ?
irbisAlguna pregunta más?
irbisPasamos a intermezzo?
irbisPasamos a intermezzo
fernand0con publicidad o sin ?
fernand0;)
irbisSolo una cuña por programa
irbisNo soy telecinco
CtrIntjeh
irbisPasamos a intermezzo.
viZardIntermezzo
irbis En algún momento,  a los mayores cerebros pensantes de coda se les ocurrió que tal vez
irbis la caza de liebres con brontosaurios no era una buena idea.
irbis Si bien coda es estupendo, funciona muy bien y hace auténticas maravillas,
irbis Intermezzo filosóficamente es similar al coda,
irbisaunque quitando muchos detalles
irbis que hacen a coda lento y grande.
irbis Intermezzo hace el 80% de todo lo que hace coda; pero ese 80% es lo que quiere casi
irbis todo el mundo.
irbisIntermezo es capaz de mantener replicación de datos en un cluster
irbis Además de esto, admite operación desconectada
irbisNo automatiza backups, ni tiene ACLs, ni muchas de las características más pesadas de Coda
irbis Intermezzo aún no ha llegado a la robustez de Coda, pero va por buén camino. Además,
irbisestá madurando a mucha velocidad, y podemos considerarlo como que ya está en producción.
irbis A dia de hoy, si podemos permitirnos coda, mejor coda.
irbis Si no podemos permitirnos coda, usamos Intermezo.
irbisEquivalencias de vocabulario:
irbisCODA                                  Intermezzo
irbisVolumes                               Filesets
irbisSCM                                   server
irbis non-SCM                               client
irbis(ojo, en Intermezzo se fusionan los conceptos de coda de cliente y máquina no-SCM)
irbis Pros:
irbisHace el 80% de lo que hace coda
irbisEl servidor no es demasiado pensado
irbisContra:
irbisLe falta el 20% de la funcionalidad de coda.
irbisAún no da la sensación de robustez de coda.
irbisConclusión:
irbisIntermezzo es una excelente solución para los que tenemos un ordenador y un portatil,
irbisun cluster con tolerancia a fallos pequeño, y para la pequeña y mediana empresa.
irbisBibliografía:
irbiswww.inter-mezzo.org
irbisEstoy preparando un artículo, ya veremos donde lo pongo.
irbisLa documentación que tiene está en inglés
irbisy es moderna
irbisno explica como se hace replicación
irbiscon esas palabras.
irbis¿Preguntas?
CtrIntyo
irbisVenga
irbis:-)
CtrInt¿con que versiones de intermezzo has probado? Yo estoy con la 1.0.5.3 contra una 2.4.9-ac10...
CtrInty no veas lo que me costó ponerlo estable (o creo que es estable ahora)
CtrIntme parece muy alpha, vamos... bastante
irbis-1.0.4- creo
irbisel CVS no me compilaba
irbisasí que usé los paquetes de Red Hat.
irbisSe instala, y funciona,
CtrIntajah
irbisaunque todavía le estoy haciendo pruebas de fatiga.
CtrInt¿sin fallos en las recuperaciones?
irbisPor eso he comentado antes que uso Coda
CtrIntajah
irbisde momento, no
irbisten en cuenta que yo no grabo simultaneamente en todos
irbistengo un script en Perl que se encarga de negociar quien es el maestro, y solo
irbislanzo la aplicación en el maestro.
irbisJugando con las IPs sobrecargadas, consigo que los clientes de la aplicación no vean que hay detrás un cluster
irbispor ejemplo, puedes coger direcciones en el rango 10.1.2.x para tu cluster
CtrIntya veo... en mi caso lanzo el demonio en todos
irbisy que una maquina tenga también la 10.1.1.7, por ejemplo.
irbisEsa máquina es la única que tiene la aplicación servidora
irbisy, por lo tanto, que escribe en el sistema de ficheros.
irbisLa reintegración de momento me parece que funciona
irbisCon escrituras simultaneas en varios clientes, de cualquier forma
irbisIntermezzo no va muy fino.
irbisPero ya no estamos hablando de un uso para cluster con tolerancia a fallos
irbissino de servidor tipo NFS, que es otra cosa.
irbis¿Respondí tu pregunta?
irbis¿Respondí tu pregunta?
irbisHay alguien vivo?
gcctengo una pregunta: lo has utilizado es sistemas que esten en produccion real? si es asi que tipo de sistema?
{^DaNi^}uops
{^DaNi^}el Ctrint parece que esta out
{^DaNi^}que lo tengo delante y dice que no leia nada ;)
irbisNo. No he usado nunca Intermezzo en sistemas de producción real.
irbisLo estoy evaluando ahora.
gcccomo ves su futuro?
irbisDe momento, es postgres, pgbench y ver si aguanta
CtrIntme la pegué
irbisDespues me volveré loco tirando de cables
CtrIntsi, respondiste (la he visto en el cliente de un compañero)
irbismi idea es que sustituya a Coda en algunas aplicaciones para pequeña empresa donde no tengan mucho hierro. ;-)
irbis¿Su futuro?
irbisBuena pregunta
irbisEl problema es que no se como responderla
irbisDetrás de Intermezzo está Petr Braam
irbisPerdon, Peter
irbisPor otro lado, la evolución actual del kernel me da miedo
gccpor que?
irbispero ese es un tema polémico que queria dejar para el final
irbishay algunas meditaciones sobre la evolución del kernel y clusterin que después pueden dar lugar a un interesante coloquio
irbisAlguna pregunta más?
irbisAlguna pregunta más?
irbisAlguna pregunta más?
irbisBueno, continuo
irbisPaso a las cosas extrañas
irbisNo puedo decir que son soluciones de clustering
irbisPero si no hablo de ellas, muchos opinarán que la charla queda coja
irbisAsí que vamos
irbiscomenzamos por GFS:
irbis Para estudiar GFS, tenemos que saltar primero a otro tema: Los rack storage
irbisLos rack storage son unos dispositivos tremendamente caros -medio kilo, para
irbiscomenzar a hablar- que permiten que dos ordenadores se conecten a través de
irbisSCSI a un bus SCSI, en el que habitualmente se coloca una matriz de discos
irbisduros con RAID.
irbisEl problema de estos dispositivos es que necesitan un sistema de ficheros
irbisque entienda sus pecularidades, y ahí es donde entra el GFS, que es el
irbisúnico sistema de ficheros para Linux que funciona con rack storages.
irbis Esto pone un punto único de fallo, que es el propio hardware de rack storage,
irbisque interconecta los discos duros con los buses SCSI. Por lo tanto, aunque
irbisformalmente sea un sistema para clusters, es para clusters muy pequeñitos -2
irbiso 4 nodos-, escala muy mal -hay que comprar un rack storage nuevo- y además
irbistampoco soluciona la tolerancia a fallos.
irbis GFS  puede echarse a andar en un cluster. Esto ha hecho a mucha gente hacer
irbiscreer que es es tolerante a fallos y además da alto rendimiento. Pues ni una cosa ni otra:
irbis los datos se deben grabar en todos los nodos -fuera alto rendimiento-. Y GFS
irbisen un cluster usa un daemon, el lock manager, para controlar los interbloqueos.
irbis Si cae el nodo que tiene el lock manager, se quebranta el sistema de ficheros
irbis -comprobado experimentalmente-.
irbisSixtina, creadores del GFS, cambiaron la licencia del GFS. Esto ha dado lugar
irbis a un fork, el OpenGFS, que sí es libre.
irbis(la puerta, un segundo)
irbis(ya he vuelto)
irbisPros:
irbis Funciona en un rack storage
irbis Funciona en un rack storage
irbis Funciona en un rack storage
irbisy, por supuesto, que funciona en un rack storage
irbis:-)
irbis Contra:
irbis No da alto rendimiento
irbisNo da alta disponibilidad
irbisNo da tolerancia a fallos
irbisEn un cluster real, no tiene ninguna ventaja sobre ninguno de los otros sistemas de ficheros
irbisestudiados en esta ponencia.
irbisNinguno de los desarrolladores de GFS trabajan actualmente en el OpenGFS.
irbisPor ello, el futuro de OpenGFS aún es incierto.
irbis Conclusión:
irbis Si tenemos un rack storage en nuestro cluster, es la única opción.
irbisSi tenemos cualquier otra cosa, mejor olvidarlo
irbis¿Preguntas?
irbis¿Preguntas?
viZardFunciona en un rack storage? :)
irbisSi.
irbisEl problema, es que no es espectacular
irbisEn mi empresa tenemos un rack storage arrinconado
viZardpero es lo unico que hay para ese caso
irbisfactor de replicación dos, no nos valia
gccque significa GFS?
irbisGlobal File System
lucrefd
irbisPero es hype
irbisllamalo Rack Storage File System mejor. ;-)
irbisPorque tiene de global lo que yo de monje
irbisla fé. ;-DD
viZardhablando de los dinosaurios: cual es el fs distribuido para cluster mas rapido ?
gcc:-) o.k. gracias.
irbisDe cualquier forma, volvemos al problema principal
irbispara un rack storage, es lo único que hay
irbisy funciona bien
irbispero no vale para cluster.
irbisEl más rápido es PVFS.
irbisEl más robusto es Coda.
irbisCoda es lento.
irbisPVFS no es tolerante a fallos.
viZardpara alta disponiblidad ?
irbis¿Respondó su pregunta?
viZardquisiera enumrerarlos
irbis:-?
viZardrendimiento, disponibilidad, velocidad .....
irbisRendimiento:
viZardajem ajem :-)
irbisPVFS, MFS, Intermezo, Coda
Drizztirbis: ¿Coda no se usaba para workstation que se desconectaban :?.
irbisDisponibilidad: Coda
irbisVelocidad: PVFS, MFS, Intermezo, Coda
Drizztirbis: Por cierto, ¿AFS encaja un poco en este tipo de sistemas de ficheros?
irbisTe respondí, viZard?
viZardsip, muchas gracias XD
irbisPaso a responderte, Drizzt -hola-
viZardal rato le envio un paquete de cafe santo domingo :)
irbisLo que dices de worksation que se desconecta es el soporte a sesión desconectada.
irbisPinchas un portatil, haces un hoarding de aquello en lo que quieres trabajar, lo desconectas y te vás a tu casa
irbisy sí. Coda hace eso.
Drizztirbis: interesante :)
irbisCoda hace eso, tolerancia a fallos de servidores y 47298749283 cosas más.
irbisAhí está el problema de Coda.
irbisHace tantas cosas, y tan bien, que es un dinosaurio andando por el procesador, gastando megas como un poseso
irbisTe respondí, Drizzt?
Drizztirbis: perfectamente
irbisYasta.
irbisTe respondo, debUgo.
irbisHas hecho una pregunta MUY interesante, y fundamental.
irbisCoda no es un producto de Linux.
irbisCoda está para FreeBSD, OpenBSD y NetBSD, entre otros varios
irbisy tiene clientes para un montón de sistemas operativos.
irbisCoda no tiene journaling, porque la mayor parte de los sistemas operativos que usan coda no lo necesitan
irbisComo sabreis, la mayor parte de los BSDs no tienen journaling.
irbisYo me he aburrido tirando del cable de mi OpenBSD, y sin perder un dato.
irbisEl problema es un problema del kernel de Linux, no del sistema de ficheros.
irbisPor ejemplo, OpenBSD 2.8 no tiene por defecto compilado softupdates -tienes que compilarlo-
Drizztirbis:¿escritura sincrona de metadatos en el BSD :?
BorjaSobre todo de las actualizaciones asincronas de metadatos
irbispero puedes tirar del cable a placer.
BorjaSi, eso es.
irbisNonono. Olvidaos de metadatos. El concepto es otro.
irbisPrimero escribes los bloques, después escribes los inodos, y por último los bloques de bitmaps.
irbisSoftupdates va por otro lado.
irbisSi pego un tirón del cable y enciendo la máquina, pierdo un montón de tiempo en el fsck
irbiscon softupdates, no se pierde tanto tiempo.
BorjaYa, ya. Me referia al problema de Linux con los tirones de cables, y al no problema de BSD configurado por defecto.
irbisEsque ahí está el tema.
irbisDigamoslo diplomáticamente... si las operaciones se realizan en el orden correcto, el sistema de ficheros no se daña por un tirón de cables.
BorjaSi, eso es lo que hacen los softupdates
irbisPor lo tanto, en OpenBSD antiguamente si tiramos del cable no dañabamos el sistema de ficheros, pero teníamos que aburrirnos delante del fsck
Drizztirbis: Es decir, las operaciones a dusco están "serializadas" no :?
irbisOlvidaos de momento de los softupdates, yo todavía estoy en el año 98.
irbisNo hay softupdates, ni journaling
irbissolo que Linux tiene una forma de grabar los datos en disco, y BSD otra.
irbisSi se tira del cable en linux, hay una probabilidad de perder muchas cosas.
irbisSi se tira del cable en BSD, se pierde lo que estaba en el buffer y no se había sincronizado.
irbisEn los dos, tenemos el coñazo de esperar a fsck.
irbisEl jorunaling en Linux es indispensable, porque realmente se echavan a perder cosas.
irbisEn BSD el tema de los softupdates es una comodidad para acortar el tiempo de restitución, y perder la mínima cantidad de datos posibles
irbisporque siempre perdemos el buffer, pero el objetivo es con un buffer grande perder lo menos posibles.
BorjaDe todas formas, cuando hablamos de servidores no es tan importante el fsck. Me parece un parametro mas importante las prestaciones y las probabilidades de perdida o no de datos en caso de caida. Pero se supone que una caida sera algo excepcional
irbisLo de metadatos es una historia del journaling, de hecho cada uno se lo monta como puede
irbisreiserFS hace journaling de los metadatos -o sea, de las operaciones sobre i-nodos-. ext3fs lo hace sobre los datos y los metadatos
irbispero cada uno está implementando lo que quiere a su bola.
BorjaY softuates proporciona las prestaciones de las actualizaciones asincronas de metadatos junto con la fiabilidad de las actualizaciones sincronas :-)
irbisTienes razón en parte, borja. Tienes razón en tanto realmente no se producen tantas caidas. No la tienes en cuanto un fsck en Linux con ext2 podía suponer
irbisperder muchas cosas, además de que el fsck tanto de Linux como de *BSD tardaban horrores.
BorjaDe todas formas, en la nueva version de FreeBSD (la linea 5-) se haran los fsck en background :-)
irbisSi, borja, tienes razón.
irbisTienes razón.
RoqueBuenas tardes para todos
irbisPara el usuario, tarda menos. Ten en cuenta que pasas a traves de él, te pones a usar ya el sistema de ficheros y se ejecuta en segundo plano.
irbisLo importante -que quería que quedase claro- es que Coda no está kugadi a journaling.
irbisCoda se monta encima de un sistema de ficheros cualquiera en el servidor.
irbisPor lo tanto, podeis tener en Linux Coda sobre Reiser, Coda sobre ext2, coda sobre ext3, coda sobre VFAT... lo que querais
irbisAunque recomiendo Coda sobre Reiser.
irbisHe respondido tu pregunta?
irbisHe respondido tu pregunta?
irbis¿Alguna pregunta más hasta aquí?
irbis¿Continuamos?
irbisContinuamos:
irbis RAID por red:
irbis Este es un cajón de sastre en el que vamos a meter tres proyectos distintos:
irbisdrbd:
irbisRAID-mirroring de dos discos, ubicados en máquinas remotas
irbisTolerancia a fallos, a mucha velocidad
irbis Pero:
irbisAdmite, a lo máximo, dos máquinas (no escala)
irbisDRBD funciona, funciona MUY bien.
irbisMejor solución para tolerancia a fallos factor 2.
irbisNo sirve para tres o más máquinas.
irbis NBD:
irbisahora comienzan las pegas ;-)
irbisHay dos grandes ramas de desarrollo de NBD
irbis La primera, tiene un límite interno de tamaño de particiones
irbis¡De sólo 2Gb!
irbisEl límite está en el tamaño de los punteros
irbisEsto lo hace completamente inútil para usos serios
irbisLa segunda, no tiene problemas con el tamaño de los punteros.
irbisLa gente de HA dicen que funcionan perfectamente, y que son maravillosos.
irbis Yo solo tengo un problema:
irbis(un poco de copipaste, un segundo)
irbis In file included from nbd-server.c:45:
MJesuspor correr !
viZardjiji
irbisperdon por la salidita
irbishe visto que no se puede poipoasetarrr
irbispues eso
MJesus:))
irbiscomo habeis visto
irbisno compila
irbisERRORES DE SINTAXIS
irbisCon los RPMs, no he conseguido que supere las mínimas pruebas de stress.
irbis En fín, un buen concepto, pero todavía le queda mucho por mejorar.
irbis¿Preguntas?
irbis¿Preguntas?
Drizztel nbd es el network block device del kernel :?.
irbisSi.
irbisO mejod richo, más o menos
irbisLinux tiene en el kernel un soporte a network block device
Drizztirbis: hace algunos años montamos un engendro con un un nbd + raid 0 distribuido entre varios en una campus party :), pero el problema era que cuando caía un ordenador ;)
irbisA todo esto hay que sumarle unas aplicaciones en áreas de usuario, que permite montar realmente el RAID sobre bloques remotos.
irbisEsas son las que fallan.
irbisDrizzt, ¿conseguistes echar a andar unn nbd con RAID con particiones de más de 2Gb?
Drizztno
irbisAh.
irbisPues estamos iguales
Drizztno me acuerdo cuantos nos pusimos con el tema
irbisyo tampoco he sido capaz.
irbis:-)
irbis¿Alguna pregunta más?
irbis¿Alguna pregunta más?
irbis¿Continuamos?
irbis Conclusiones:
irbis Hay cosas que funcionan
irbisPero hay muchas cosas por hacer
irbis El problema es que el kernel es un blanco movil, por lo que hace falta mucha gente
irbis para mantener un proyecto paralelo al desarrollo natural del kernel, con parches.
irbisAl menos, no para una única persona
irbisque además lo hace en su tiempo libre.
irbis Y más ahora, que actualizarse constantemente el kernel es obigatorio, devido
irbis a la apabullante cantidad de problemas y fallos del kernel -ahora monto todos
irbis los sistemas de ficheros con sync, porque hace tiempo que no me inspira confianza-.
irbis Por otro lado, el kernel no ha tenido ningún adelanto tecnológico desde hace un año
irbisy medio; y mientras que se han incorporado cosas que es tan fundamental que esten en
irbisel kernel como un servidor web -como se puede concebir un sistema operativo sin un
irbisservidor Web en el kernel-  };-) , hay muchísisimo código de clustering que lleva
irbistres o cuatro años dando vueltas por ahí, y que no se ha incorporado.
irbis(vamos a comenzar a polemizar, por si luego quereis una discusión)
irbis La política de inclusión de parches y mejoras del kernel va por ahí -es decir,
irbis  caminando para atrás- y además en las reuniones de "grandes gurús" kernelianos
irbis -particularmente, me acuerdo de una que vi el resumen en lwn.net, y aparecian todos
irbis en la foto- solo se leen características planeadas para incorporar en la 2.5 que solo
irbis sirven para que Oracle -producto NO LIBRE- corra mejor en Linux. Y es triste cuando
irbisel clustering para Linux se reduce a "mejorar" Linux para que corra mejor Oracle,
irbis y mucho vaporware de Compaq.
irbisEl primer 2.4 que instalé, me quebrantó el sistema de ficheros del portatil. En los
irbisúltimos seis meses, he tenido dos kernels que me han dado problemas graves de quebrantamiento
irbisde disco, y en uno fallaban los sockets. El SMP hasta hace poco no ha vuelto a funcionar.
irbis Los sistemas de ficheros los tengo que montar con sync, para no hacer demasiado uso
irbisdel backup. Tengo un uptime de pena, y hay kernels que ni compilan. Decir que no se
irbisincluye ninguna extensión para clustering porque no están probadas suena extraño.
irbis Ahora se ha abierto la 2.5. Ya no hay escusas. Estamos en un punto de inflexión, y
irbis los popes deben decidir si quieren que Linux se convertirá en un sistema operativo
irbis barato para ejecutar Oracle, o en un sistema operativo con opciones reales de
irbis clustering. Esta elección parece que la tomarán únicamente los popes de Linux,
irbis y no tengo tan claro que no escogan la primera.
irbis Mientras, los usuarios estamos a la espera.
irbisComencemos la polémica. :-)
LuisMitotalmente de acuerdo
irbis¿Opiniones, dudas, preguntas?
Drizztirbis: hace tiempo leí un comentario en Barrapunto sobre lo de orcale
LuisMiyo solo tengo que decir que estoy plenamente de acuerdo con esto ultimo del desarrollo del kernel
Drizztirbis: de todas maneras, de los 2.4.x he usado los de las distros (RH en mi caso), el resto de los server que llevo sigo con un 2.2.x
dardhalirbis: ¿ alguno de los proyectos más avanzados de clustering ha "contactado" con los popes para saber su opinión ?
irbisDrizzt: Si. En http://www.lwn.net lei un resumen de la reunion.
dardhalirbis: es decir, ¿ se sabe algo en favor o en contra ?
FloodeRHola
irbisSe habló de muchas cosas que le interesaban a Oracle, pero nada de utilidad real en clustering.
LuisMinas FloodeR
BorjaHombre, aparte de a Oracle seguro que sirven para ma cosas!
irbisdardhal: No se nada más que lo aparecido en la noticia, que es muy poco.
irbisPues si realmente se está haciendo lo que se dijo, estamos llendo para atras.
DrizztBorja: no sé, por ejemplo, todo el tema del himem no está demasiado claro para qué sino. De hecho, incluso NT usa eso solo con bases de datos.
dardhalirbis: creo que Alan Cox una de las intenciones que tenía era precisamente empujar las características "empresariales" del kernel
dardhalirbis: de momento está con el scheduler, para aumentar la escalabilidad, no sé si recuerdo algo suyo acerca de clustering
BorjaYa, pero hay mas bases de datos en Linux, no solamente Oracle
DrizztBorja: ya lo se :)
irbisEl problema es el recurrente. ¿Porqué hacer cosas que benefician sólo a Compaq o a Oracle?
BorjaSeguro que solamente benefician a Compaq u Oracle?
LuisMisi
irbisBásicamente lo que proponian era una descripción de lo que necesita Oracle.
dardhalBorja: coincido contigo, el como el "Google memory problem", no es que hayan solucionado el problema de Google, es que su carga de trabajo manifestó un problema que estaba ahí , y que necesitaba una solución
irbisRespecto a compaq, están ahora con todo el vaporware de su ssi -del que prometen de todo para un futuro proximo-
irbisno se ha apoyado tecnologías que ya hay
BorjaEsas mejoras permitiran que otros proyectos libres consigan mejores prestaciones.
irbisEl principal problema de Oracle es el VFS, que no se puede quitar de enmedio.
Drizztirbis: ¿limites en los tamaños?
irbisTodas las propiestas de Oracle van para eliminar el sistema de buffering y el VFS.
Drizztirbis: acceso crudo :?
Drizztirbis: algo parecido a lo que se hace en SunOS con las viejso /dev/rdsk/ :?
dardhalirbis: ¿ eliminar, o hacer posible acceder a un dispositivo evitando el VFS ?
irbisAhora, no se habló de ninguna de las soluciones ya existentes, ni de reaprovechar código.
FloodeR-topic
FloodeRUis
irbisExactamente. Esa es la obsesión a Oracle, el acceso directo a los recursos hardware.
irbisHay cosas fundamentales, como son un sistema de interbloqueos de archivos válido para clustering,
irbisampliar el formato de PIDs, y posicionarse respecto a los grandes paquetes que hay para clusters, a ver lo que se puede aprovechar
irbisy lo que no se puede aprovechar.
irbisMosix es lo más parecido a un SSI que se puede hacer con una compatibilidad total para atras.
irbisEl problema es que Mosix sea incompleto.
irbisMosix aún no es capaz de tratar con muchas cosas.
irbisNo trata con IPC.
FloodeRNi con sockets, no?
irbisPodría, si se operase con el DIPC.
irbisEl problema es que DIPC está para las 2.2.x
irbisTampoco trata con sockets.
irbisTampoco trata con sistemas de discos en condiciones
irbishay aún muchas cosas para hacer
FloodeRHasta donde se, mosix solo es un distribuidor de procesos
irbisExactamente, es a eso lo que me refiero.
rieldebUgo-: yes
irbisMosix implementa la parte de procesos, pero aún falta todo lo realtivo a disco, a red, a IPCs...
FloodeRMosix tambien tenia planeado soportarlo (sockets) en proximas implementaciones
irbisEstoy ahora entrrando en el site.
FloodeRDe todas maneras la cosa creo que se complica de manera exponencial, no?
irbisSi, pero Mosix no ha avanzado en features desde hace dos años.
FloodeRUn scheduler de red, por decirlo asi, no tiene pinta de ser muy complejo
irbisEl problema es que sigen un modelo de desarrollo cerrado.
FloodeRirbis: No sigo mucho el proyecto, la verdad, pero si que tiene toda la pinta de ser lo que dices
irbisY al nivel de complejidad actual, no se hasta que punto sean capaces de llevar tanta cosa junta.
irbisEs un buen momento para apoyrase en la comunidad.
irbisEs solo que les podamos devolver lo que nos han dado.
irbisEllos nos han dado Mosix, y poder echarles un cable.
viZardQueremos agradecer a David Santo Orcero por su _MUY_ interesante charla,
irbisEntonces, algo mas?
viZardla cual ha despertado un gran interés, preguntas y comentarios en muchos.
viZardEl log de esta conferencia sera liberado mañana en la web del congreso.
viZardplas plas plas plas plas plas plas plas plas plas
viZardplas plas plas plas plas plas plas plas plas plas
irbisGracias a vosotros por escucharme durante tanto tiempo. :-)
viZardplas plas plas plas plas plas plas plas plas plas
viZardplas plas plas plas plas plas plas plas plas plas
Stonclap clap clap clap clap clap clap clap clap clap clap clap clap clap clap clap
viZardplas plas plas plas plas plas plas plas plas plas
FloodeRsplas splas slas
Stonclap clap clap clap clap clap clap clap clap clap clap clap clap clap clap clap
Stonclap clap clap clap clap clap clap clap clap clap clap clap clap clap clap clap
viZardplas plas plas plas plas plas plas plas plas plas
Drizzttjx :)
viZardplas plas plas plas plas plas plas plas plas plas
FloodeRsplas splas slas
Stonclap clap clap clap clap clap clap clap clap clap clap clap clap clap clap clap
FloodeRsplas splas slas
FloodeRsplas splas slas
Stonclap clap clap clap clap clap clap clap clap clap clap clap clap clap clap clap
viZardplas plas plas plas plas plas plas plas plas plas
viZardplas plas plas plas plas plas plas plas plas plas
oraclito;)
FloodeRchop chop chop chop
FloodeRchop chop chop chop
oraclito:)
rieldebUgo-: see the TODO list on http://linuxvm.bkbits.net/ ;)
viZardMuchas gracias david XD
rieldebUgo-: but don't expect it in 2.5
viZardmenos mal no tuve que traducir :-)
irbis:-)
Borjaplas plas plas plas
Borja:-)
Stonlol
Ston8-)
zerogllego el primo
ZeroBuenass
rielirbis: good to see you again ;)
ZeroComo va primo?
zerogregular para el tiempo
irbisHello, riel!
irbisHay gente que quiere localizarme.
Stondos zero* ? uhhh que pesadilla... espero que no se junten X-)
irbisYoestoy en irbis@orcero.org
irbishttp://www.orcero.org/irbis

Generated by irclog2html.pl by Jeff Waugh - find it at freshmeat.net!


Mas información: umeet@uninet.edu