SIT Learning wird Constructor LearningMehr dazu

Nach unserer Gründung als Propulsion Academy im Jahr 2016 und der Übernahme durch SIT im letzten Jahr, begrüssen wir heute unseren neuen Markennamen: Constructor Learning. Constructor Learning ist Teil der Constructor Group, die ursprünglich den Namen Schaffhausen Institute of Technology (SIT) trug. Die Organisation wurde 2019 von Dr. Serg Bell gegründet, einem langjährigen Unternehmer und Investor im Bereich Technologie und Bildung. Das Ökosystem, das sich der Schaffung von Wissen durch Wissenschaft, Bildung und Technologie verschrieben hat, kombiniert ein umfassendes Bildungsangebot, das den gesamten Lebenszyklus des Lernens abdeckt, von der Grundschule bis hin zu einer privaten Universität und Führungskursen, Forschungskapazitäten der nächsten Generation und kommerziellen Aktivitäten für technologische Innovationen. SIT mit Hauptsitz in Schaffhausen ist seit der Gründung durch organisches Wachstum und Übernahmen rasch gewachsen. Da es sich zu einer globalen Organisation mit einer Präsenz in mehr als 15 Ländern und einem weltweiten Netzwerk von Forschern, Professoren, Investoren, Kunden und Alumni entwickelt hat, musste die Marke neu überdacht werden, um diese Expansion besser widerzuspiegeln und das gesamte Ökosystem unter einem Namen zu vereinen: Constructor.

Mitteilung schliessen
DataOps Prediction Engine

DOPE: DataOps Prediction Engine

DOPE: DataOps Prediction Engine

Projekt von: Badrudin Stanicki, Christopher Baumann

Einführung

DOPE wurde zu Forschungszwecken für die SIT Academy entwickelt und soll simulieren, wie man Daten erhält und wie man sie in Echtzeit verarbeitet. Was macht man mit den Ergebnissen? Wie werden sie ausgewertet? Machine Learning ist nur ein kleiner Aspekt von Data Science. Der grösste Teil der Arbeit ist die gesamte Infrastruktur rund um das Machine Learning Modell. 

DataOps ist eine prozessorientierte, automatisierte Methodik, um die Zykluszeit der Datenanalyse zu reduzieren und ihre Genauigkeit zu verbessern. Sie fördert die Zusammenarbeit zwischen mehreren Parteien, um Daten zu nutzen. Die SIT Academy ist bestrebt, mit den neuesten Tools und Entwicklungen in der Branche auf dem Laufenden zu bleiben. Als Beispiel für einen Anwendungsfall wählten unsere beiden Data Science-Studenten den Aufbau eines ML-basierten Kryptowährungshändlers. Das Ziel war es, das aufstrebende Feld von DataOps und MLOps zu erforschen und ein End-to-End-Machine-Learning-Projekt unter Verwendung einer Microservice-Architektur zu bauen. Das Team schuf eine anpassbare und skalierbare Architektur und entwickelte eine End-to-End-Plattform mit Vorhersagen als Ergebnis. Sie kombinierten sie mit Machine Learning-Modellen für Zeitreihenvorhersagen und einem Live-Dashboard zur Visualisierung der Performance.

Das Ergebnis: DOPE (DataOps Prediction Engine)!
DataOps Chart

Verwendete Tools und Technologien

  • Python: scikit-learn, Pandas, NumPy
  • Models: Random forest, LSTM (TensorFlow)
  • Messaging: zeromq
  • Live dashboard: Bokeh
 

Projektdetails

Um DOPE zur Vorhersage des Preises von Kryptowährungen und zum Handel mit ihnen zu nutzen, haben unsere Studenten einen Dienst zur kontinuierlichen Aggregation von Live-Daten der Binance-Börse für mehrere Währungen aufgebaut. Die aggregierten und vorverarbeiteten Daten werden über ein Publisher-Subscriber-Messaging-System an mehrere ML-Modelle weitergeleitet. Dies macht den parallelen Einsatz mehrerer Modelle sehr einfach. Die Struktur der Microservices wurde von der sogenannten "Rendezvous-Architektur" inspiriert. Diese eignet sich besonders für Datenströme und für die parallele Überwachung mehrerer Modelle in einer realen Produktionsumgebung.

gif DOPE live demo
Der Fokus wurde auf zwei verschiedene Modelle gesetzt: Ein Random Forest basiertes Modell und ein in TensorFlow erstelltes neuronales Netzwerk (LSTM). Beide Modelle wurden auf historischen Daten mit einer Granularität von 10 Sekunden und einem Zeitbereich von etwa einem Jahr trainiert. Das Projekt wurde mit einem Trader-Service abgeschlossen, der für die Entscheidung verantwortlich ist, ob die gehandelte Währung gekauft oder verkauft werden soll (kaufen, wenn die Vorhersage höher als ein oberer Schwellenwert ist und verkaufen, wenn die Vorhersage niedriger als ein unterer Schwellenwert ist) sowie einem Dashboard zur Überwachung der Live-Performance des Traders. Darüber hinaus schrieben die Studenten einen Backtesting-Service zur Optimierung der Modelle und der Handelsschwellen, sowie zum systematischen Vergleich der Leistung verschiedener Ansätze. 

DOPE Prozess

Nach einem Monat intensiver Arbeit konnte das Handelssystem während der Projektpräsentation Vorhersagen in Echtzeit zeigen.

Fazit

Nach einem Monat intensiver Arbeit konnte das Handelssystem während der Projektpräsentation Vorhersagen in Echtzeit zeigen.
Das Hauptaugenmerk dieses Projekts lag auf dem Aufbau eines Systems, das nicht nur einen Machine-Learning-Algorithmus enthält, sondern auch die gesamte Infrastruktur drum herum. Dabei zeigte sich deutlich, dass in jedem grösseren Projekt die Versorgung der Machine-Learning-Modelle mit Daten und die Evaluierung ihrer Leistung eine grössere Herausforderung und viel zeitaufwändiger ist als die Erstellung der Modelle selbst. Die Evaluierung der Leistung der Modelle für die Vorhersage von Finanzzeitreihen erwies sich aufgrund der begrenzten Datenmenge, des hohen Anteils an Zufälligkeiten und der Tendenz zum Overfitting durch Backtesting als schwierig. Mit der begrenzten Datenmenge konnten komplexere Modelle wie LSTM die Leistung nicht verbessern. Ein weiterer entscheidender Teil ist die Erstellung geeigneter Merkmale aus den Rohdaten, bevor diese in die Modelle eingespeist werden. Um wirklich performante Modelle zu erhalten, müssen die Preis- und Volumendaten mit alternativen Daten angereichert werden, was eine Menge zusätzliches Engineering für den Aufbau zuverlässiger Daten-Pipelines erfordert. Das Projekt war ein grossartiges Testfeld, um alle Herausforderungen zu erfahren, die bei der Einführung eines ML-Systems in die Produktion auftreten. Gleichzeitig war es sehr lohnend, ein solches System von Grund auf aufzubauen und es mit Echtzeit-Datenströmen zum Laufen zu bringen.
Student

Student

Badrudin Stanicki sagt:

Es war wirklich faszinierend, an diesem Projekt zu arbeiten. Auf der einen Seite ist es beeindruckend, was wir mit den Werkzeugen und dem Wissen, das wir im Data Science Kurs gelernt haben, erreichen konnten. Gleichzeitig war es sehr aufschlussreich zu erfahren, wie viele zusätzliche Komponenten es braucht, um ein Machine-Learning-System in Produktion zu bringen.

Möchtest du mehr über die finalen Studenten-Projekte erfahren? Dann finde hier weitere spannende Full-Stack und Data Science Projekte.

Mehr Infos
Project work