Overleef fluitend een datacenter uitval met Ceph en OpenNebula

Stefan Kooman, @basseroet, stefan@bit.nl BIT

Over BIT

internet service provider
infrastructuur provider

Diensten

email
shared hosting
internetverbindingen
managed hosting
colocatie

Poep <-> Ventilator

    Mogelijke datacenter verstoringen
  • stroomstoring (Have you tried turning it off and on again?)
  • koeling (apparatuur schakelt zichzelf uit ter bescherming)
  • blussing (drukgolf, lage temperatuur)
  • wateroverlast (lekkage, overstroming)

Oplossing: stop je eieren in verschillende mandjes

    Department of redundancy department
  • Gescheiden datacenters
  • Redundante storage
  • Redundante virtuele infrastructuur

Redundante storage: Ceph to the rescue

  • Ceph is een alles-in-1 gedistribueerd opslagsysteeem, ontworpen voor uitstekende performance, betrouwbaarheid en schaalbaarheid.

Hoe werkt dat?

RADOS: reliable autonomic distributed object store

Wat precies?

Cloud Admins

    VM disk images
  • Thin-provisioning
  • Snapshots
  • Compressie
  • Copy-on-write clones
  • Linux kernel support (krbd)
  • Natively supported in QEMU
  • Incrementele backups
  • Asynchrone replicatie

Ceph Productie Cluster

Ceph Productie Cluster

  • IPv6 Only (Ceph dual stack sinds Nautilus (14.2.x)
  • Ontsluiting van Ceph storage via access netwerk van BIT
  • Drie replicas: Datacenter BIT-1, BIT-2A, BIT-2C
  • BGP Routed
  • BGP ECMP across links (schalen bandbreedte met verbindingen)
  • BGP EVPN (VXlan)
  • Redundante paden tussen Datacenters (twee onafhankelijke fiber ringen)
  • Beter teveel bandbreedte / redundantie dan te weinig

Cloud Management: OpenNebula

    KISS principe
  • IaaS Private Cloud
  • Public Cloud
  • Hybrid Cloud
  • Multi tenancy
  • Platform onafhankelijk

OpenNebula

Demo time: Simulatie Datacenter uitval

    OpenNebula HA op basis van RAFT implementatie
  • 3 Hypervisors met OpenNebula (1 per DC)
  • Ceph cluster (datacenter als failure domain)

Demo time: Opzet demosysteem

    It's turtles all the way down!
  • Geneste hypervisors
  • Incephtion!
  • Ceph cluster als VMs boven op Ceph cluster

Filmpje

Demo time: Hypervisor crash

    It's turtles all the way down!
  • Geneste hypervisors
  • Incephtion!
  • Ceph cluster als VMs boven op Ceph cluster

Oops!

ceph -w

ceph -s

Vragen?