Нестандартное окно на JavaFX 2
Под нестандартным окном я имею ввиду окно непрямоугольной формы.

@Override
public void start(Stage stage)
{
 StackPane root = new StackPane();
 //рисуем форму окна
 SVGPath p = new SVGPath();
 p.setContent("M0,0 l180,-150 a60,60 0 0,1 60,60 v180 a60,60 0 0,1 -60,60  h-180 a60,60 0 0,1 -60,-60 l0,-180  z");
 p.setFill(new Color(0.90,1,1,1));
 p.setEffect(new DropShadow());
 
 //добавляем форму
 GridPane pane = null;
 try
 {
  pane = FXMLLoader.load(getClass().getResource("/resources/fxml_example.fxml"));
 } catch (IOException e)
 {
  e.printStackTrace();
  return;
 }
 
 //добавляем изображение
 Image image = new Image(getClass().getResourceAsStream("/resources/duke.png"));
 ImageView imageView = new ImageView(image);
 imageView.setScaleX(0.75);
 imageView.setScaleY(0.75);
 imageView.setTranslateY(-70);
 root.getChildren().add(p);
 root.getChildren().add(imageView);
 root.getChildren().add(pane);
 
 //делаем прозрачную сцену и окно
 Scene scene = null;
 scene = new Scene(root, 400, 400, Color.TRANSPARENT);
 stage.setScene(scene);
 stage.initStyle(StageStyle.TRANSPARENT);
 stage.setTitle("Custom Window");
 stage.show();
}


Результат: