Создание масштабируемых распределенных систем с использованием Go и Mesos

Apache Mesos — это менеджер ресурсов и планировщик, который работает как системное ядро ​​для центра обработки данных. Он отводит ресурсы ЦП, памяти, хранилища и других вычислительных ресурсов от машин (физических или виртуальных), что позволяет легко создавать и эффективно работать отказоустойчивые и эластичные распределенные системы. Например, оригинальная версия Apache Spark была построена поверх Mesos, когда оба проекта были частью AMPLab в Калифорнийском университете в Беркли.

API Mesos позволяет разработчикам создавать распределенные приложения, использующие преимущества масштабных вычислений в центре обработки данных, не думая об отдельных хостах и ​​не создавая сетевой код. Используя Mesos API, кластер, состоящий из десятков тысяч машин, выглядит для разработчика как одна гигантская машина, что позволяет писать распределенный сервис с использованием высокоуровневых абстракций.

На старт, внимание, марш!

Apache Mesos использует идиому, известную как платформа, для делегирования планирования задач клиентскому коду, работающему в кластере. Например, Spark изначально был средой Mesos, написанной для API Mesos с использованием привязок языка Scala.

Оригинальная версия Mesos была построена в 2009 году, до того, как Go был популярен. Сегодня Go является одним из самых популярных языков, и многие ключевые компоненты, которые интегрируются с Mesos, написаны на Go. Например, Kubernetes-Mesos , среда Mesos для запуска рабочих нагрузок Kubernetes на Mesos, написана на Go. Кроме того, Go пользуется популярностью среди многих инструментов инфраструктуры, включая и окружающий формат контейнера Docker, который изначально поддерживается Mesos .

Теперь стало возможным создавать каркасы Mesos в Go, используя привязки к чистому языку Go. Эта возможность позволит сообществу Go создавать совершенно новое поколение распределенных систем. В оставшейся части этой статьи будет объяснено, как работают новые привязки Go в Mesos, и будет показано, как построить новую среду распределенных систем на Mesos с использованием Go.

Привязки Mesos Framework

До версии 0.19.0 Apache Mesos (выпущенной в июне 2014 г.) у программиста, который хотел реализовать инфраструктуру Mesos, был только один вариант взаимодействия с API Mesos — главным образом, с использованием предоставленной библиотеки libmesos.so C / C ++. modulue. Это привело к нескольким языковым привязкам, которые сильно зависят от кода libmesos для работы, включая:

• Java / Scala
• питон
• Perl
• Haskell
• Идти

Хотя использование внешнего модуля C / C ++ для этих привязок работает нормально, они имеют некоторые обременительные побочные эффекты:

• выбранный язык должен иметь способ взаимодействия с C / C ++
• между языком хоста и API C / C ++ существуют идиоматические пробелы
• существует потребность в уровне абстракции для смягчения проблем четности представления данных
• существует зависимость времени сборки (для скомпилированных языков) от libmesos.so
• libmesos.so должен распространяться с кодом для удовлетворения зависимостей во время выполнения

Прямая привязка протокола

Начиная с версии 0.19.0, сообщество Apache Mesos представило изменения в проводном протоколе Mesos на основе HTTP, которые позволили разработчикам создавать интегрированные среды, напрямую связанные с базовым стеком HTTP, предоставляемым языком. Это открыло перед программистами возможность создавать фреймворки Mesos исключительно на языке по своему выбору без внешней зависимости от кода C / C ++.

После выпуска версии 0.19 было реализовано несколько проектов, в которых API-интерфейс Mesos реализован непосредственно на их родном языке, в том числе:

• Jesos, Java-реализация — https://github.com/groupon/jesos
• Pesos, Python-реализация Python — https://github.com/wickman/pesos
• Mesos-Go, реализация Go (см. Ниже)

Остальная часть этой статьи посвящена Mesos-Go, чистой реализации Go библиотеки фреймворков Apache-Mesos.

Mesos-Go — Github.com/mesos/mesos-go

Mesos-Go — это чистая реализация API-интерфейса Apache Mesos, написанная на языке программирования Go ( http://golang.org ). Как указывалось ранее, оригинальный проект Mesos-Go использовал привязку C / C ++ в своей предыдущей жизни. Однако в своем последнем реинкарнации Mesos-Go полностью написан на Go и не зависит от библиотечного модуля libmesos.so C / C ++. Проект использует протокол HTTP для прямой связи с работающим мастером Mesos и / или его подчиненными экземплярами.

Начало работы с Mesos-Go

Этот раздел статьи посвящен использованию привязок Mesos-Go для создания клиентских платформ в Go. Он предоставляет общий обзор API и необходимые примеры кода, которые показывают, как написать простой планировщик Mesos .

Предпосылки

• Перейти 1.3 или выше — http://golang.org/doc/install
• Менеджер зависимостей Godep — см. Https://github.com/tools/godep
• Стандартная настройка рабочего пространства Go — см. Http://golang.org/doc/code.html
• Инструменты буфера протокола 2.5 — см. Http://code.google.com/p/protobuf/
• Apache Mesos 0.19 или более поздняя версия — https://mesosphere.com/downloads/

Создание Кодекса

В командной строке выполните следующие действия:

$ cd $GOPATH/src/$ mkdir -p github.com/mesos/mesos-go$ git clone https://github.com/mesos/mesos-go.git github.com/mesos/mesos-go$ cd github.com/mesos/mesos-go$ godep restore
$ go install ./...

Разработка платформ Mesos в Go

Mesos-Go предоставляет простой интерфейс приложения, который выровнен с C ++ API, чтобы максимизировать понятность и переносимость. В следующих разделах мы рассмотрим, как использовать API для создания простого примера среды Mesos, находящейся в каталоге examples / исходного кода. Инструкции по сборке Mesos-Go и сопровождающие примеры см. По адресу https://github.com/mesos/mesos-go . 

Если вы не знакомы с тем, как работает Mesos, сейчас самое время ознакомиться с документацией Mesos http://mesos.apache.org/documentation/latest/ и ее архитектурой http://mesos.apache.org/documentation. / последняя / мезос-архитектура / .

Пакеты Mesos-Go

Когда вы будете готовы использовать API, вы в первую очередь будете взаимодействовать со следующими высокоуровневыми пакетами:

• » github.com/gogo/protobuf/protocode.google.com/p/gogoprotobuf/proto » — используется для методов protobuf util
• » github.com/mesos/mesos-go/mesosproto » — расположение всех объектов протобуф mMesos
• » github.com/mesos/mesos-go/mesosutil » — утилиты для работы с протоколом mMesos
• » github.com/mesos/mesos-go/scheduler » — SchedulerDriver и Scheduler API
• « github.com/mesos/mesos-go/executor » — ExecutorDrvier и Executor API

Написание планировщика

Создание планировщика платформы включает в себя два компонента: планировщик и планировщик . Все платформы Mesos должны реализовывать  интерфейс S cheduler, который, в свою очередь, использует   модуль SchedulerDriver для обработки связи с мастером Mesos. Давайте подробнее рассмотрим два компонента.

Интерфейс Планировщика

Разработчик фреймворка должен начать с реализации интерфейса Mesos  Scheduler в Go. Планировщик  , где разработчик будет размещать код:

• решает, когда принимать или отклонять предложения ресурсов от мастера Mesos
• обрабатывает отключение фреймворка от мастера
• получает обновление статуса от других узлов Mesos
• решает, что делать, если исполнитель потерян (см. раздел об Исполнителе позже)
• обрабатывает ошибки фреймворка
• И т.п.

Ниже приведено полное определение интерфейса планировщика. SchedulerDriver (покрыто далее) использует механизм обратного вызова для делегирования Mesos обработки событий к соответствующему методу планировщика , как указаны в определении типа ниже (л чернил к планировщику интерфейса документации: https://godoc.org/github.com/mesos / mesos-go / scheduler # Scheduler ) .

type Scheduler interface {
    Registered(SchedulerDriver, *mesos.FrameworkID, *mesos.MasterInfo)
    Reregistered(SchedulerDriver, *mesos.MasterInfo)
    Disconnected(SchedulerDriver)
    ResourceOffers(SchedulerDriver, []*mesos.Offer)
    OfferRescinded(SchedulerDriver, *mesos.OfferID)
    StatusUpdate(SchedulerDriver, *mesos.TaskStatus)
    FrameworkMessage(SchedulerDriver, 
        *mesos.ExecutorID, *mesos.SlaveID, string)
    SlaveLost(SchedulerDriver, *mesos.SlaveID)
    ExecutorLost(SchedulerDriver, *mesos.ExecutorID, *mesos.SlaveID, int)
    Error(SchedulerDriver, string)
}

Планировщик Драйвер

SchedulerDriver представляет собой модуль обеспечивает Mesos-Go , которая предназначена для обработки связи между каркасом и мастером Mesos. Он предоставляет свои услуги несколькими способами:

scheduler.NewMesosSchedulerDriver(
    sched Scheduler,                 // Scheduler instance
    framework *mesos.FrameworkInfo,  // Framework information
    master string,                   // Mesos master address
    credential *mesos.Credential,    // Credential 
) (*MesosSchedulerDriver, error)         // Returns a pointer to driver or error

type ExampleScheduler struct {
executor      *mesos.ExecutorInfo
tasksLaunched int
tasksFinished int
totalTasks    int
}

func (sched *ExampleScheduler) Registered(
driver sched.SchedulerDriver, 
frameworkId *mesos.FrameworkID, 
masterInfo *mesos.MasterInfo) {...}
...
func (sched *ExampleScheduler) ResourceOffers(
driver sched.SchedulerDriver, offers []*mesos.Offer) { ... }
...
func (sched *ExampleScheduler) Error(
driver sched.SchedulerDriver, err string){...}

func main() {
// the command to be executed by slave processes
exec := &mesos.ExecutorInfo{
ExecutorId: util.NewExecutorID("default"),
Name:       proto.String("Test Executor (Go)"),
Source:     proto.String("go_test"),
Command:    util.NewCommandInfo("/tmp/test-executor"),
}

// the framework info
fwinfo := &mesos.FrameworkInfo{
User: proto.String(""), // Mesos-go will fill in user.
Name: proto.String("Test Framework (Go)"),
}

//create the SchedulerDriver instance
     driver, err := scheduler.NewMesosSchedulerDriver(
newExampleScheduler(exec),
fwinfo,
"127.0.0.1:5050",
nil,
)
if stat, err := driver.Run(); err != nil {
    log.Infof("Framework stopped... %s and error: %s\n",
    stat.String(), err.Error())
}
}

type Executor interface {
Registered(ExecutorDriver, *mesosproto.ExecutorInfo, 
*mesosproto.FrameworkInfo, *mesosproto.SlaveInfo)
Reregistered(ExecutorDriver, *mesosproto.SlaveInfo)
Disconnected(ExecutorDriver)
LaunchTask(ExecutorDriver, *mesosproto.TaskInfo)
KillTask(ExecutorDriver, *mesosproto.TaskID)
FrameworkMessage(ExecutorDriver, string)
Shutdown(ExecutorDriver)
Error(ExecutorDriver, string)
}

executor.NewMesosExecutorDriver(exec Executor) (*MesosExecutorDriver, error)

// Type for implementing Executor
type exampleExecutor struct {
tasksLaunched int
}
func (exec *exampleExecutor) Registered(
driver exec.ExecutorDriver, 
execInfo *mesos.ExecutorInfo,
fwinfo *mesos.FrameworkInfo, 
slaveInfo *mesos.SlaveInfo) {...}

func (exec *exampleExecutor) LaunchTask(
driver exec.ExecutorDriver, taskInfo *mesos.TaskInfo) {...}
...
func (exec *exampleExecutor) Error(
driver exec.ExecutorDriver, err string) {...}

func main(){
driver, err := exec.NewMesosExecutorDriver(newExampleExecutor())
if err != nil {
fmt.Println("Unable to create a ExecutorDriver ", err.Error())
}
if stat, err := driver.Run(); err != nil {
    log.Infof("Executor stopped %s and error: %s\n", 
    stat.String(), err.Error())
}
}