Project Loom: Java с более сильным волокном

Популярность приходит по цене. Ява является и была очень популярным языком, вызывающим как похвалу, так и критику. Хотя было бы справедливо ожидать спада после стольких лет и такого большого наследия, Java на самом деле находится в довольно хорошей форме и имеет сильную техническую дорожную карту. Наступает новая эра Java, и через несколько лет в JVM-стране все может измениться. В OpenJDK есть несколько технически впечатляющих проектов, которые мы надеемся использовать в ближайшее время, и которые могут повлиять не только на Java, но и на другие языки.

Помимо Loom , основной темы этой статьи, вы также должны следить за Valhalla , которая в некоторых случаях может удвоить производительность Java, и за Graal , который делает так много вещей, что я даже не знаю, с чего начать! И, конечно, язык становится менее многословным, благодаря Амбер .

Эти проекты могут даже изменить восприятие других языков, так что они потенциально очень сильно влияют.

Одним из примеров этого является Loom + Graal, который продолжает (сопрограммы) и заблаговременно компилирует, что делает Go менее привлекательным, чем сейчас.

Loom + Amber дает вам волокна (позволяющие потенциально более простые системы актеров) и более короткий синтаксис, также делая Scala менее привлекательным, чем сейчас. Valhalla + Graal может уменьшить разрыв в производительности с C ++. И только Graal может подтолкнуть Python к запуску в JVM, или, по крайней мере, PySpark может извлечь из этого большую пользу.

Но давайте сосредоточимся на Loom. И так как в настоящее время нет много практической информации об этом, мы дополнительно объясним, построим и используем эту экспериментальную JVM для выполнения некоторых тестов. Пусть числа говорят!

Project Loom

В Java раньше были зеленые потоки, по крайней мере, в Solaris, но современные версии Java используют так называемые собственные потоки . Нативные потоки хороши, но относительно тяжелы, и вам может понадобиться настроить ОС, если вы хотите иметь десятки тысяч из них.

Project Loom представляет продолжения (сопрограммы) и волокна (тип зеленых нитей), позволяющие выбирать между нитями и волокнами. С Loom даже ноутбук может легко управлять миллионами волокон, открывая двери для новых или не очень новых парадигм.

Небольшое отступление: Эрланг

Возможно, вы слышали об Эрланге. Это очень интересный язык, намного старше, чем Java, с некоторыми недостатками, но и с некоторыми впечатляющими возможностями. Erlang имеет встроенную поддержку зеленых потоков, и фактически виртуальная машина подсчитывает операции и время от времени переключается между зелеными потоками.

В Erlang программы обычно имеют много долгоживущих, не очень загруженных потоков. На самом деле ожидается, что он будет обслуживать каждого пользователя выделенным потоком. Многие из этих потоков могут выполнять сетевые операции (в конце концов, Erlang был разработан Ericsson для телекоммуникационной отрасли), и эти сетевые операции являются синхронными. Да, синхронно. Мы могли бы обслуживать миллион пользователей с одной машиной с большим количеством оперативной памяти, используя простые синхронные сетевые операции.

Синхронный Vs. Асинхронный

В течение многих лет нам говорили, что масштабируемые серверы требуют асинхронных операций, но это не совсем так.

Конечно, если вам нужно масштабировать с использованием пула потоков (или даже одного отдельного потока), у вас в основном нет альтернативы: вы должны использовать асинхронные операции. И асинхронные операции могут очень хорошо масштабироваться.

Когда я присоединился к Opera Software в 2008 году, я был немного удивлен, узнав, что Presto, ядро ​​браузера, является однопоточным. Да, одна тема. Но этого было достаточно. Десятки вкладок для рендеринга HTML и обработки JavaScript, сетевых загрузок, файловых операций, файлов cookie, кеша — вы называете это. И только один поток, множество асинхронных операций и обратных вызовов везде. И это сработало довольно хорошо.

Но асинхронный код сложен. Это может быть очень сложно. Асинхронные вызовы прерывают поток операций, и, возможно, потребуется всего 20 строк простого кода, возможно, потребуется разбить его на несколько файлов, выполнить по потокам, и разработчикам может потребоваться несколько часов, чтобы выяснить, что на самом деле происходит.

Не было бы неплохо получить простоту синхронных операций с производительностью асинхронных вызовов?

Волокна на помощь

Ткацкий станок вводит волокна. Это здорово, но этого недостаточно. Чтобы делать полезные вещи, вам нужен сетевой стек, дружественный к волокну Когда я попробовал Loom несколько месяцев назад, это был не тот случай. Создание около 40-50 волокон было достаточно, чтобы начать иметь сетевые ошибки. Проект был слишком незрелым.

В июне JDK 13 принял в основной строке JEP 353 ( https://openjdk.java.net/jeps/353 ), который переписал Java Socket API, чтобы сделать его более дружественным к волокну.

Хотя не все работает, Loom теперь можно использовать для сетевых операций.

Пришло время иметь систему актеров, которая может использовать волокна Loom.

Хорошо, может быть, это немного рано, так как Project Loom все еще экспериментален, а JDK 13 выйдет в сентябре, но я не удержался. Поэтому я создал и открыл небольшую систему актеров, способную использовать Loom: Fibry . Мы будем использовать его для сравнения Loom и определения, действительно ли волокна лучше, чем нити.

Актеры и Фибри

Актеры используются в многопоточной среде для достижения параллелизма относительно простым способом. В частности, субъекты являются однопоточными, поэтому у вас нет проблемы параллелизма по определению, если они действуют только в своем состоянии; Вы можете изменить состояние актера, отправляющего ему сообщения.

Erlang обеспечивает эту безопасность, имея только константы (без циклов for, и вы не можете даже переключить две переменные традиционным способом …), Java — нет. Но актеры все еще могут быть очень полезны.

Отличный вариант использования для актеров — это когда у вас есть долгосрочная задача, которая особенно легка, обычно потому, что она зависит от сетевых операций и просто ждет, когда клиенты что-то предпримут. Например, сеть IoT может иметь все устройства, постоянно подключенные к управляющему серверу, отправляя сообщения только время от времени. Чат является еще одним примером программы, которая может принести пользу актерам. И сервер, поддерживающий WebSockets, может быть другим кандидатом.

Fibry — это моя система Actor System, разработанная для того, чтобы быть маленькой, гибкой, простой в использовании и, конечно, использовать преимущества Loom. Он работает с любой версией Java, начиная с Java 8 и далее, и не имеет никаких зависимостей, кроме как требует, чтобы Loom использовал волокна.

Строительный ткацкий станок

Сборка ткацкого станка занимает немного времени, но достаточно проста. Вы можете получить некоторую основную информацию здесь .

После установки Mercurial (OpenJDK все еще работает на Mercurial), вам нужно выполнить следующие команды:

hg clone http://hg.openjdk.java.net/loom/loom 
cd loom 
hg update -r fibers
sh configure  
make images

var fiber =
  FiberScope.background().schedule(() -> System.out.println("Hello World"));

for(int i=0; i<3000; i++)
  Stereotypes.threads().sink(null);

for(int i=0; i<1_000_000; i++)
  Stereotypes.fibers().sink(null);

var actorAnswer = ActorSystem.anonymous().newActorWithReturn((Integer n) -> n * n);

Stereotypes.def().runOnceSilent(() -> {
  for (int i = 0; i < 250_000; i++)
    actorAnswer.sendMessageReturn(i).get();
}).closeOnExit(actorAnswer).waitForExit();

Stereotypes.def().embeddedHttpServer(12345, exchange -> "Hello World!");

Stereotypes.def().tcpAcceptorSilent(12345, conn -> {
  try (var is = conn.getInputStream(); var os = conn.getOutputStream()) {
    // Skips till the end of the HTTP request
    while (is.read() != '\n' || is.read() != '\r' || is.read() != '\n') { }

    os.write("HTTP/1.1 200 OK\r\nContent-Length: 6\r\n\r\nHello!".getBytes());
  }
}, null).waitForExit();

ab -k -n 50000 -c 100 http://localhost:12345/