Beantwortet

Import Manager: Bulk Upload von 1 Mio. Kundendaten


Benutzerebene 4
Abzeichen

Liebe Community,
 

wir wollen rund 1 Million unserer Kundendaten (CSV File mit 1 Mio. Zeilen und 16 Spalten) aus unserem alten System in Xentral übertragen.

Hat jemand von euch Erfahrung mit solch großen Daten Mengen im Xentral Import Manager gemacht?
Können wir die Daten auf 2-3 Files aufgeteilt in Xentral hochladen, oder würde dies Xentral überfordern?

 

Danke und liebe Grüße
Gabriel

icon

Beste Antwort von Anonymous 1 September 2022, 12:32

Original anzeigen

11 Antworten

Benutzerebene 4
Abzeichen

[Die CSV Datei hat 85.000 KB]

Benutzerebene 6
Abzeichen +5

Hi Gabriel,

ich konnte die Erfahrung sammeln, dass Xentral immer mit großen Dateien auch gut umgehen konnte. Jedoch weiß ich leider nicht wie es bei 85.000 KB aussieht vielleicht kann @Jonas Müller da ja mal noch was in Erfahrung bringen.
Meine größte Datei hatte ca. 10.000 kb - das hat bei der Verarbeitung allerdings auch ein wenig gedauert.

Hey ihr Lieben, 

erstmal danke dir für deinen Beitrag, ich finde das eine sehr spannende Frage. Da ich selber bisher auch nur mit deutlich kleineren Dateien gearbeitet habe. Vor Allem kann ich mir vorstellen, dass diese Frage auch noch weitere User interessieren würde. 

Ich habe mal direkt unseren Spezialisten für solche Spezialfälle gefragt und werde so schnell wie möglich mit seiner Antwort auf euch zukommen! 

Liebe Grüße und einen schönen Abend wünsche ich noch! 

Benutzerebene 5
Abzeichen +1

Hallo,

wir haben Artikeldaten in Mengen >100k hochgeladen. Hat nach anfänglichen Schwierigkeiten ganz gut funktioniert. Ich denke es klappt, wird aber etwas dauern, da der Importmanager das in 5000er Paketen gemacht hat und das alle 5 Minuten. Da kannst Du dir dann die Dauer selbst ausrechnen.

Grüße

Andreas

Benutzerebene 4
Abzeichen

Hey ihr Lieben, 

erstmal danke dir für deinen Beitrag, ich finde das eine sehr spannende Frage. Da ich selber bisher auch nur mit deutlich kleineren Dateien gearbeitet habe. Vor Allem kann ich mir vorstellen, dass diese Frage auch noch weitere User interessieren würde. 

Ich habe mal direkt unseren Spezialisten für solche Spezialfälle gefragt und werde so schnell wie möglich mit seiner Antwort auf euch zukommen! 

Liebe Grüße und einen schönen Abend wünsche ich noch! 

Guten Morgen Jonas,

alles klar- danke!

Dann warten wir mit dem Upload bist du eine Rückmeldung von eurem Spezialisten hast.

 

Liebe Grüße 
Gabriel

Benutzerebene 7
Abzeichen +3

@Gabriel Brandstetter* ich musste bei einem Kunden die Dateien splitten, da ich bei Dateien größer ca. 34 MB immer Probleme hatte. So pauschal wird man es vermutlich nicht beantworten können, aber ich würde mich einfach mit ca. 30 MB großen Dateien mal herantasten. Wichtig ist auf jeden Fall, dass die Datei im ersten Schritt korrekt hochgeladen wird - wie bereits von den anderen geschrieben erfolgt die Abarbeitung dann Stück für Stück über den Prozessstarter. Kundendaten sind etwas besser zu importieren als z.B. Artikeldaten wo du wesentlich mehr Spalten hast. 

Benutzerebene 4
Abzeichen

@Gabriel Brandstetter* ich musste bei einem Kunden die Dateien splitten, da ich bei Dateien größer ca. 34 MB immer Probleme hatte. So pauschal wird man es vermutlich nicht beantworten können, aber ich würde mich einfach mit ca. 30 MB großen Dateien mal herantasten. Wichtig ist auf jeden Fall, dass die Datei im ersten Schritt korrekt hochgeladen wird - wie bereits von den anderen geschrieben erfolgt die Abarbeitung dann Stück für Stück über den Prozessstarter. Kundendaten sind etwas besser zu importieren als z.B. Artikeldaten wo du wesentlich mehr Spalten hast. 

Top, danke fürs Teilen Christian!

Hey ihr Lieben, 

danke erstmal auch an euch @Andreas M. und @Christian für das Teilen eurer Erfahrungen. Ich kann jetzt gemeinsam mit unserem Spezialisten confirmen, dass wie Lucas schon gesagt hat, Xentral in der Regel sehr gut mit großen Dateien beim CSV Import umgehen kann. Aber hier handelt es sich natürlich noch mal um einen besonderen Spezialfall. Dazu kann man sagen, dass es theoretisch kein Problem darstellen sollte. Der Prozessstarter bei der Importvorlage würde diese Datei dann Stück für Stück abarbeiten. Das kann natürlich etwas länger dauern und das System kann währenddessen ggf. etwas an Performance verlieren. 

Die Dateigrößere generell ist aber kein Problem, aufgrund unserer php Settings in Xentral.

Aber wie Christian auch schon gesagt hat. Splitten ist wahrscheinlich im Zweifel nicht schlecht, um es auch zu testen. Grundsätzlich sollte es aber auch mit der ganz großen Datei funktionieren. :) 

Danke noch mal für all eure Beiträge und Liebe Grüße, 

Jonas

Benutzerebene 4
Abzeichen

Hey ihr Lieben, 

danke erstmal auch an euch @Andreas M. und @Christian für das Teilen eurer Erfahrungen. Ich kann jetzt gemeinsam mit unserem Spezialisten confirmen, dass wie Lucas schon gesagt hat, Xentral in der Regel sehr gut mit großen Dateien beim CSV Import umgehen kann. Aber hier handelt es sich natürlich noch mal um einen besonderen Spezialfall. Dazu kann man sagen, dass es theoretisch kein Problem darstellen sollte. Der Prozessstarter bei der Importvorlage würde diese Datei dann Stück für Stück abarbeiten. Das kann natürlich etwas länger dauern und das System kann währenddessen ggf. etwas an Performance verlieren. 

Die Dateigrößere generell ist aber kein Problem, aufgrund unserer php Settings in Xentral.

Aber wie Christian auch schon gesagt hat. Splitten ist wahrscheinlich im Zweifel nicht schlecht, um es auch zu testen. Grundsätzlich sollte es aber auch mit der ganz großen Datei funktionieren. :) 

Danke noch mal für all eure Beiträge und Liebe Grüße, 

Jonas

Super, danke Jonas!

Hey @Gabriel Brandstetter* , 

immer gerne! Es freut mich sehr zu sehen, wie hier so viele ihre Erfahrungen geteilt haben und wir so hoffentlich alle noch etwas lernen konnten! 

Ich drücke außerdem die Daumen, dass dann mit deinem Upload alles funktioniert! :) Kannst dich dazu auch gerne noch mal melden! 

LG 

Benutzerebene 4
Abzeichen

Hallo zusammen,
 

der Upload hat grundsätzlich gut funktioniert. 30.000 KB je Import Datei war zu groß. Wir haben daher mit 6 Datein zu je 15.000KB gearbeitet (jeden Tag 1 Upload).

Der einzig offene Punkt ist, dass die importierten Kunden keine Rollen zugewiesen haben da wir keine Kundennummer vergeben haben. Im Bulk Upload File haben wir keine Möglichkeit gefunden, Rollen (Kunde, Lieferant etc.) zu vergeben. Kann hier wer helfen?

Danke und LG
Gabriel    

Antworten