Many tests were running extra passes after loop-vectorize, but they made no difference to the outcome. If tests don't require these extra passes, then we shouldn't run them because it increases the testing time.
687 lines
22 KiB
LLVM
687 lines
22 KiB
LLVM
; RUN: opt < %s -passes=loop-vectorize -force-vector-width=4 -force-vector-interleave=1 -S | FileCheck %s
|
|
; RUN: opt < %s -passes=loop-vectorize -force-vector-width=4 -force-vector-interleave=4 -S | FileCheck %s -check-prefix=UNROLL
|
|
|
|
target datalayout = "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128-n8:16:32:64-S128"
|
|
|
|
@b = common global [2048 x i32] zeroinitializer, align 16
|
|
@c = common global [2048 x i32] zeroinitializer, align 16
|
|
@a = common global [2048 x i32] zeroinitializer, align 16
|
|
@G = common global [32 x [1024 x i32]] zeroinitializer, align 16
|
|
@ub = common global [1024 x i32] zeroinitializer, align 16
|
|
@uc = common global [1024 x i32] zeroinitializer, align 16
|
|
@d = common global [2048 x i32] zeroinitializer, align 16
|
|
@fa = common global [1024 x float] zeroinitializer, align 16
|
|
@fb = common global [1024 x float] zeroinitializer, align 16
|
|
@ic = common global [1024 x i32] zeroinitializer, align 16
|
|
@da = common global [1024 x float] zeroinitializer, align 16
|
|
@db = common global [1024 x float] zeroinitializer, align 16
|
|
@dc = common global [1024 x float] zeroinitializer, align 16
|
|
@dd = common global [1024 x float] zeroinitializer, align 16
|
|
@dj = common global [1024 x i32] zeroinitializer, align 16
|
|
|
|
;CHECK-LABEL: @example1(
|
|
;CHECK: load <4 x i32>
|
|
;CHECK: add nsw <4 x i32>
|
|
;CHECK: store <4 x i32>
|
|
;CHECK: ret void
|
|
;UNROLL-LABEL: @example1(
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: add nsw <4 x i32>
|
|
;UNROLL: add nsw <4 x i32>
|
|
;UNROLL: add nsw <4 x i32>
|
|
;UNROLL: add nsw <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: ret void
|
|
define void @example1() {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv
|
|
%3 = load i32, ptr %2, align 4
|
|
%4 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %indvars.iv
|
|
%5 = load i32, ptr %4, align 4
|
|
%6 = add nsw i32 %5, %3
|
|
%7 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv
|
|
store i32 %6, ptr %7, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 256
|
|
br i1 %exitcond, label %8, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example2(
|
|
;CHECK: store <4 x i32>
|
|
;CHECK: ret void
|
|
;UNROLL-LABEL: @example2(
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: ret void
|
|
define void @example2(i32 %n, i32 %x) {
|
|
%1 = icmp sgt i32 %n, 0
|
|
br i1 %1, label %.lr.ph5, label %.preheader
|
|
|
|
..preheader_crit_edge:
|
|
%phitmp = sext i32 %n to i64
|
|
br label %.preheader
|
|
|
|
.preheader:
|
|
%i.0.lcssa = phi i64 [ %phitmp, %..preheader_crit_edge ], [ 0, %0 ]
|
|
%2 = icmp eq i32 %n, 0
|
|
br i1 %2, label %._crit_edge, label %.lr.ph
|
|
|
|
.lr.ph5:
|
|
%indvars.iv6 = phi i64 [ %indvars.iv.next7, %.lr.ph5 ], [ 0, %0 ]
|
|
%3 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv6
|
|
store i32 %x, ptr %3, align 4
|
|
%indvars.iv.next7 = add i64 %indvars.iv6, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next7 to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, %n
|
|
br i1 %exitcond, label %..preheader_crit_edge, label %.lr.ph5
|
|
|
|
.lr.ph:
|
|
%indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ %i.0.lcssa, %.preheader ]
|
|
%.02 = phi i32 [ %4, %.lr.ph ], [ %n, %.preheader ]
|
|
%4 = add nsw i32 %.02, -1
|
|
%5 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv
|
|
%6 = load i32, ptr %5, align 4
|
|
%7 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %indvars.iv
|
|
%8 = load i32, ptr %7, align 4
|
|
%9 = and i32 %8, %6
|
|
%10 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv
|
|
store i32 %9, ptr %10, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%11 = icmp eq i32 %4, 0
|
|
br i1 %11, label %._crit_edge, label %.lr.ph
|
|
|
|
._crit_edge:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example3(
|
|
;CHECK: <4 x i32>
|
|
;CHECK: ret void
|
|
;UNROLL-LABEL: @example3(
|
|
;UNROLL: <4 x i32>
|
|
;UNROLL: <4 x i32>
|
|
;UNROLL: <4 x i32>
|
|
;UNROLL: <4 x i32>
|
|
;UNROLL: ret void
|
|
define void @example3(i32 %n, ptr noalias nocapture %p, ptr noalias nocapture %q) {
|
|
%1 = icmp eq i32 %n, 0
|
|
br i1 %1, label %._crit_edge, label %.lr.ph
|
|
|
|
.lr.ph:
|
|
%.05 = phi i32 [ %2, %.lr.ph ], [ %n, %0 ]
|
|
%.014 = phi ptr [ %5, %.lr.ph ], [ %p, %0 ]
|
|
%.023 = phi ptr [ %3, %.lr.ph ], [ %q, %0 ]
|
|
%2 = add nsw i32 %.05, -1
|
|
%3 = getelementptr inbounds i32, ptr %.023, i64 1
|
|
%4 = load i32, ptr %.023, align 16
|
|
%5 = getelementptr inbounds i32, ptr %.014, i64 1
|
|
store i32 %4, ptr %.014, align 16
|
|
%6 = icmp eq i32 %2, 0
|
|
br i1 %6, label %._crit_edge, label %.lr.ph
|
|
|
|
._crit_edge:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example4(
|
|
;CHECK: load <4 x i32>
|
|
;CHECK: ret void
|
|
;UNROLL-LABEL: @example4(
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: load <4 x i32>
|
|
;UNROLL: ret void
|
|
define void @example4(i32 %n, ptr noalias nocapture %p, ptr noalias nocapture %q) {
|
|
%1 = add nsw i32 %n, -1
|
|
%2 = icmp eq i32 %n, 0
|
|
br i1 %2, label %.preheader4, label %.lr.ph10
|
|
|
|
.preheader4:
|
|
%3 = icmp sgt i32 %1, 0
|
|
br i1 %3, label %.lr.ph6, label %._crit_edge
|
|
|
|
.lr.ph10:
|
|
%4 = phi i32 [ %9, %.lr.ph10 ], [ %1, %0 ]
|
|
%.018 = phi ptr [ %8, %.lr.ph10 ], [ %p, %0 ]
|
|
%.027 = phi ptr [ %5, %.lr.ph10 ], [ %q, %0 ]
|
|
%5 = getelementptr inbounds i32, ptr %.027, i64 1
|
|
%6 = load i32, ptr %.027, align 16
|
|
%7 = add nsw i32 %6, 5
|
|
%8 = getelementptr inbounds i32, ptr %.018, i64 1
|
|
store i32 %7, ptr %.018, align 16
|
|
%9 = add nsw i32 %4, -1
|
|
%10 = icmp eq i32 %4, 0
|
|
br i1 %10, label %._crit_edge, label %.lr.ph10
|
|
|
|
.preheader:
|
|
br i1 %3, label %.lr.ph, label %._crit_edge
|
|
|
|
.lr.ph6:
|
|
%indvars.iv11 = phi i64 [ %indvars.iv.next12, %.lr.ph6 ], [ 0, %.preheader4 ]
|
|
%indvars.iv.next12 = add i64 %indvars.iv11, 1
|
|
%11 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv.next12
|
|
%12 = load i32, ptr %11, align 4
|
|
%13 = add nsw i64 %indvars.iv11, 3
|
|
%14 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %13
|
|
%15 = load i32, ptr %14, align 4
|
|
%16 = add nsw i32 %15, %12
|
|
%17 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv11
|
|
store i32 %16, ptr %17, align 4
|
|
%lftr.wideiv13 = trunc i64 %indvars.iv.next12 to i32
|
|
%exitcond14 = icmp eq i32 %lftr.wideiv13, %1
|
|
br i1 %exitcond14, label %.preheader, label %.lr.ph6
|
|
|
|
.lr.ph:
|
|
%indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ 0, %.preheader ]
|
|
%18 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv
|
|
%19 = load i32, ptr %18, align 4
|
|
%20 = icmp sgt i32 %19, 4
|
|
%21 = select i1 %20, i32 4, i32 0
|
|
%22 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv
|
|
store i32 %21, ptr %22, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, %1
|
|
br i1 %exitcond, label %._crit_edge, label %.lr.ph
|
|
|
|
._crit_edge:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example8(
|
|
;CHECK: store <4 x i32>
|
|
;CHECK: ret void
|
|
;UNROLL-LABEL: @example8(
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: store <4 x i32>
|
|
;UNROLL: ret void
|
|
define void @example8(i32 %x) {
|
|
br label %.preheader
|
|
|
|
.preheader:
|
|
%indvars.iv3 = phi i64 [ 0, %0 ], [ %indvars.iv.next4, %3 ]
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds [32 x [1024 x i32]], ptr @G, i64 0, i64 %indvars.iv3, i64 %indvars.iv
|
|
store i32 %x, ptr %2, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %3, label %1
|
|
|
|
; <label>:
|
|
%indvars.iv.next4 = add i64 %indvars.iv3, 1
|
|
%lftr.wideiv5 = trunc i64 %indvars.iv.next4 to i32
|
|
%exitcond6 = icmp eq i32 %lftr.wideiv5, 32
|
|
br i1 %exitcond6, label %4, label %.preheader
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example9(
|
|
;CHECK: phi <4 x i32>
|
|
;CHECK: ret i32
|
|
define i32 @example9() readonly {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%diff.01 = phi i32 [ 0, %0 ], [ %7, %1 ]
|
|
%2 = getelementptr inbounds [1024 x i32], ptr @ub, i64 0, i64 %indvars.iv
|
|
%3 = load i32, ptr %2, align 4
|
|
%4 = getelementptr inbounds [1024 x i32], ptr @uc, i64 0, i64 %indvars.iv
|
|
%5 = load i32, ptr %4, align 4
|
|
%6 = add i32 %3, %diff.01
|
|
%7 = sub i32 %6, %5
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %8, label %1
|
|
|
|
; <label>:
|
|
ret i32 %7
|
|
}
|
|
|
|
;CHECK-LABEL: @example10a(
|
|
;CHECK: load <4 x i32>
|
|
;CHECK: add nsw <4 x i32>
|
|
;CHECK: load <4 x i16>
|
|
;CHECK: add <4 x i16>
|
|
;CHECK: store <4 x i16>
|
|
;CHECK: ret void
|
|
define void @example10a(ptr noalias nocapture %sa, ptr noalias nocapture %sb, ptr noalias nocapture %sc, ptr noalias nocapture %ia, ptr noalias nocapture %ib, ptr noalias nocapture %ic) {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds i32, ptr %ib, i64 %indvars.iv
|
|
%3 = load i32, ptr %2, align 4
|
|
%4 = getelementptr inbounds i32, ptr %ic, i64 %indvars.iv
|
|
%5 = load i32, ptr %4, align 4
|
|
%6 = add nsw i32 %5, %3
|
|
%7 = getelementptr inbounds i32, ptr %ia, i64 %indvars.iv
|
|
store i32 %6, ptr %7, align 4
|
|
%8 = getelementptr inbounds i16, ptr %sb, i64 %indvars.iv
|
|
%9 = load i16, ptr %8, align 2
|
|
%10 = getelementptr inbounds i16, ptr %sc, i64 %indvars.iv
|
|
%11 = load i16, ptr %10, align 2
|
|
%12 = add i16 %11, %9
|
|
%13 = getelementptr inbounds i16, ptr %sa, i64 %indvars.iv
|
|
store i16 %12, ptr %13, align 2
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %14, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example10b(
|
|
;CHECK: load <4 x i16>
|
|
;CHECK: sext <4 x i16>
|
|
;CHECK: store <4 x i32>
|
|
;CHECK: ret void
|
|
define void @example10b(ptr noalias nocapture %sa, ptr noalias nocapture %sb, ptr noalias nocapture %sc, ptr noalias nocapture %ia, ptr noalias nocapture %ib, ptr noalias nocapture %ic) {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds i16, ptr %sb, i64 %indvars.iv
|
|
%3 = load i16, ptr %2, align 2
|
|
%4 = sext i16 %3 to i32
|
|
%5 = getelementptr inbounds i32, ptr %ia, i64 %indvars.iv
|
|
store i32 %4, ptr %5, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %6, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example11(
|
|
;CHECK: load i32
|
|
;CHECK: load i32
|
|
;CHECK: load i32
|
|
;CHECK: load i32
|
|
;CHECK: insertelement
|
|
;CHECK: insertelement
|
|
;CHECK: insertelement
|
|
;CHECK: insertelement
|
|
;CHECK: ret void
|
|
define void @example11() {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = shl nsw i64 %indvars.iv, 1
|
|
%3 = or i64 %2, 1
|
|
%4 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %3
|
|
%5 = load i32, ptr %4, align 4
|
|
%6 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %3
|
|
%7 = load i32, ptr %6, align 4
|
|
%8 = mul nsw i32 %7, %5
|
|
%9 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %2
|
|
%10 = load i32, ptr %9, align 8
|
|
%11 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %2
|
|
%12 = load i32, ptr %11, align 8
|
|
%13 = mul nsw i32 %12, %10
|
|
%14 = sub nsw i32 %8, %13
|
|
%15 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv
|
|
store i32 %14, ptr %15, align 4
|
|
%16 = mul nsw i32 %7, %10
|
|
%17 = mul nsw i32 %12, %5
|
|
%18 = add nsw i32 %17, %16
|
|
%19 = getelementptr inbounds [2048 x i32], ptr @d, i64 0, i64 %indvars.iv
|
|
store i32 %18, ptr %19, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 512
|
|
br i1 %exitcond, label %20, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example12(
|
|
;CHECK: vector.body:
|
|
;CHECK: [[VEC_IV_TRUNC:%.+]] = phi <4 x i32>
|
|
;CHECK: store <4 x i32> [[VEC_IV_TRUNC]]
|
|
;CHECK: ret void
|
|
define void @example12() {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv
|
|
%3 = trunc i64 %indvars.iv to i32
|
|
store i32 %3, ptr %2, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %4, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example13(
|
|
;CHECK: <4 x i32>
|
|
;CHECK: ret void
|
|
define void @example13(ptr nocapture %A, ptr nocapture %B, ptr nocapture %out) {
|
|
br label %.preheader
|
|
|
|
.preheader:
|
|
%indvars.iv4 = phi i64 [ 0, %0 ], [ %indvars.iv.next5, %14 ]
|
|
%1 = getelementptr inbounds ptr, ptr %A, i64 %indvars.iv4
|
|
%2 = load ptr, ptr %1, align 8
|
|
%3 = getelementptr inbounds ptr, ptr %B, i64 %indvars.iv4
|
|
%4 = load ptr, ptr %3, align 8
|
|
br label %5
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %5 ]
|
|
%diff.02 = phi i32 [ 0, %.preheader ], [ %11, %5 ]
|
|
%6 = getelementptr inbounds i32, ptr %2, i64 %indvars.iv
|
|
%7 = load i32, ptr %6, align 4
|
|
%8 = getelementptr inbounds i32, ptr %4, i64 %indvars.iv
|
|
%9 = load i32, ptr %8, align 4
|
|
%10 = add i32 %7, %diff.02
|
|
%11 = sub i32 %10, %9
|
|
%indvars.iv.next = add i64 %indvars.iv, 8
|
|
%12 = trunc i64 %indvars.iv.next to i32
|
|
%13 = icmp slt i32 %12, 1024
|
|
br i1 %13, label %5, label %14
|
|
|
|
; <label>:
|
|
%15 = getelementptr inbounds i32, ptr %out, i64 %indvars.iv4
|
|
store i32 %11, ptr %15, align 4
|
|
%indvars.iv.next5 = add i64 %indvars.iv4, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next5 to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 32
|
|
br i1 %exitcond, label %16, label %.preheader
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
; Can vectorize.
|
|
;CHECK-LABEL: @example14(
|
|
;CHECK: <4 x i32>
|
|
;CHECK: ret void
|
|
define void @example14(ptr nocapture %in, ptr nocapture %coeff, ptr nocapture %out) {
|
|
.preheader3:
|
|
br label %.preheader
|
|
|
|
.preheader:
|
|
%indvars.iv7 = phi i64 [ 0, %.preheader3 ], [ %indvars.iv.next8, %11 ]
|
|
%sum.05 = phi i32 [ 0, %.preheader3 ], [ %10, %11 ]
|
|
br label %0
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %0 ]
|
|
%sum.12 = phi i32 [ %sum.05, %.preheader ], [ %10, %0 ]
|
|
%1 = getelementptr inbounds ptr, ptr %in, i64 %indvars.iv
|
|
%2 = load ptr, ptr %1, align 8
|
|
%3 = getelementptr inbounds i32, ptr %2, i64 %indvars.iv7
|
|
%4 = load i32, ptr %3, align 4
|
|
%5 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv
|
|
%6 = load ptr, ptr %5, align 8
|
|
%7 = getelementptr inbounds i32, ptr %6, i64 %indvars.iv7
|
|
%8 = load i32, ptr %7, align 4
|
|
%9 = mul nsw i32 %8, %4
|
|
%10 = add nsw i32 %9, %sum.12
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %11, label %0
|
|
|
|
; <label>:
|
|
%indvars.iv.next8 = add i64 %indvars.iv7, 1
|
|
%lftr.wideiv9 = trunc i64 %indvars.iv.next8 to i32
|
|
%exitcond10 = icmp eq i32 %lftr.wideiv9, 32
|
|
br i1 %exitcond10, label %.preheader3.1, label %.preheader
|
|
|
|
.preheader3.1:
|
|
store i32 %10, ptr %out, align 4
|
|
br label %.preheader.1
|
|
|
|
.preheader.1:
|
|
%indvars.iv7.1 = phi i64 [ 0, %.preheader3.1 ], [ %indvars.iv.next8.1, %24 ]
|
|
%sum.05.1 = phi i32 [ 0, %.preheader3.1 ], [ %23, %24 ]
|
|
br label %12
|
|
|
|
; <label>:
|
|
%indvars.iv.1 = phi i64 [ 0, %.preheader.1 ], [ %13, %12 ]
|
|
%sum.12.1 = phi i32 [ %sum.05.1, %.preheader.1 ], [ %23, %12 ]
|
|
%13 = add nsw i64 %indvars.iv.1, 1
|
|
%14 = getelementptr inbounds ptr, ptr %in, i64 %13
|
|
%15 = load ptr, ptr %14, align 8
|
|
%16 = getelementptr inbounds i32, ptr %15, i64 %indvars.iv7.1
|
|
%17 = load i32, ptr %16, align 4
|
|
%18 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.1
|
|
%19 = load ptr, ptr %18, align 8
|
|
%20 = getelementptr inbounds i32, ptr %19, i64 %indvars.iv7.1
|
|
%21 = load i32, ptr %20, align 4
|
|
%22 = mul nsw i32 %21, %17
|
|
%23 = add nsw i32 %22, %sum.12.1
|
|
%lftr.wideiv.1 = trunc i64 %13 to i32
|
|
%exitcond.1 = icmp eq i32 %lftr.wideiv.1, 1024
|
|
br i1 %exitcond.1, label %24, label %12
|
|
|
|
; <label>:
|
|
%indvars.iv.next8.1 = add i64 %indvars.iv7.1, 1
|
|
%lftr.wideiv9.1 = trunc i64 %indvars.iv.next8.1 to i32
|
|
%exitcond10.1 = icmp eq i32 %lftr.wideiv9.1, 32
|
|
br i1 %exitcond10.1, label %.preheader3.2, label %.preheader.1
|
|
|
|
.preheader3.2:
|
|
%25 = getelementptr inbounds i32, ptr %out, i64 1
|
|
store i32 %23, ptr %25, align 4
|
|
br label %.preheader.2
|
|
|
|
.preheader.2:
|
|
%indvars.iv7.2 = phi i64 [ 0, %.preheader3.2 ], [ %indvars.iv.next8.2, %38 ]
|
|
%sum.05.2 = phi i32 [ 0, %.preheader3.2 ], [ %37, %38 ]
|
|
br label %26
|
|
|
|
; <label>:
|
|
%indvars.iv.2 = phi i64 [ 0, %.preheader.2 ], [ %indvars.iv.next.2, %26 ]
|
|
%sum.12.2 = phi i32 [ %sum.05.2, %.preheader.2 ], [ %37, %26 ]
|
|
%27 = add nsw i64 %indvars.iv.2, 2
|
|
%28 = getelementptr inbounds ptr, ptr %in, i64 %27
|
|
%29 = load ptr, ptr %28, align 8
|
|
%30 = getelementptr inbounds i32, ptr %29, i64 %indvars.iv7.2
|
|
%31 = load i32, ptr %30, align 4
|
|
%32 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.2
|
|
%33 = load ptr, ptr %32, align 8
|
|
%34 = getelementptr inbounds i32, ptr %33, i64 %indvars.iv7.2
|
|
%35 = load i32, ptr %34, align 4
|
|
%36 = mul nsw i32 %35, %31
|
|
%37 = add nsw i32 %36, %sum.12.2
|
|
%indvars.iv.next.2 = add i64 %indvars.iv.2, 1
|
|
%lftr.wideiv.2 = trunc i64 %indvars.iv.next.2 to i32
|
|
%exitcond.2 = icmp eq i32 %lftr.wideiv.2, 1024
|
|
br i1 %exitcond.2, label %38, label %26
|
|
|
|
; <label>:
|
|
%indvars.iv.next8.2 = add i64 %indvars.iv7.2, 1
|
|
%lftr.wideiv9.2 = trunc i64 %indvars.iv.next8.2 to i32
|
|
%exitcond10.2 = icmp eq i32 %lftr.wideiv9.2, 32
|
|
br i1 %exitcond10.2, label %.preheader3.3, label %.preheader.2
|
|
|
|
.preheader3.3:
|
|
%39 = getelementptr inbounds i32, ptr %out, i64 2
|
|
store i32 %37, ptr %39, align 4
|
|
br label %.preheader.3
|
|
|
|
.preheader.3:
|
|
%indvars.iv7.3 = phi i64 [ 0, %.preheader3.3 ], [ %indvars.iv.next8.3, %52 ]
|
|
%sum.05.3 = phi i32 [ 0, %.preheader3.3 ], [ %51, %52 ]
|
|
br label %40
|
|
|
|
; <label>:
|
|
%indvars.iv.3 = phi i64 [ 0, %.preheader.3 ], [ %indvars.iv.next.3, %40 ]
|
|
%sum.12.3 = phi i32 [ %sum.05.3, %.preheader.3 ], [ %51, %40 ]
|
|
%41 = add nsw i64 %indvars.iv.3, 3
|
|
%42 = getelementptr inbounds ptr, ptr %in, i64 %41
|
|
%43 = load ptr, ptr %42, align 8
|
|
%44 = getelementptr inbounds i32, ptr %43, i64 %indvars.iv7.3
|
|
%45 = load i32, ptr %44, align 4
|
|
%46 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.3
|
|
%47 = load ptr, ptr %46, align 8
|
|
%48 = getelementptr inbounds i32, ptr %47, i64 %indvars.iv7.3
|
|
%49 = load i32, ptr %48, align 4
|
|
%50 = mul nsw i32 %49, %45
|
|
%51 = add nsw i32 %50, %sum.12.3
|
|
%indvars.iv.next.3 = add i64 %indvars.iv.3, 1
|
|
%lftr.wideiv.3 = trunc i64 %indvars.iv.next.3 to i32
|
|
%exitcond.3 = icmp eq i32 %lftr.wideiv.3, 1024
|
|
br i1 %exitcond.3, label %52, label %40
|
|
|
|
; <label>:
|
|
%indvars.iv.next8.3 = add i64 %indvars.iv7.3, 1
|
|
%lftr.wideiv9.3 = trunc i64 %indvars.iv.next8.3 to i32
|
|
%exitcond10.3 = icmp eq i32 %lftr.wideiv9.3, 32
|
|
br i1 %exitcond10.3, label %53, label %.preheader.3
|
|
|
|
; <label>:
|
|
%54 = getelementptr inbounds i32, ptr %out, i64 3
|
|
store i32 %51, ptr %54, align 4
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example21(
|
|
;CHECK: load <4 x i32>
|
|
;CHECK: shufflevector {{.*}} <i32 3, i32 2, i32 1, i32 0>
|
|
;CHECK: ret i32
|
|
define i32 @example21(ptr nocapture %b, i32 %n) readonly {
|
|
%1 = icmp sgt i32 %n, 0
|
|
br i1 %1, label %.lr.ph, label %._crit_edge
|
|
|
|
.lr.ph:
|
|
%2 = sext i32 %n to i64
|
|
br label %3
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ %2, %.lr.ph ], [ %indvars.iv.next, %3 ]
|
|
%a.02 = phi i32 [ 0, %.lr.ph ], [ %6, %3 ]
|
|
%indvars.iv.next = add i64 %indvars.iv, -1
|
|
%4 = getelementptr inbounds i32, ptr %b, i64 %indvars.iv.next
|
|
%5 = load i32, ptr %4, align 4
|
|
%6 = add nsw i32 %5, %a.02
|
|
%7 = trunc i64 %indvars.iv.next to i32
|
|
%8 = icmp sgt i32 %7, 0
|
|
br i1 %8, label %3, label %._crit_edge
|
|
|
|
._crit_edge:
|
|
%a.0.lcssa = phi i32 [ 0, %0 ], [ %6, %3 ]
|
|
ret i32 %a.0.lcssa
|
|
}
|
|
|
|
;CHECK-LABEL: @example23(
|
|
;CHECK: <4 x i32>
|
|
;CHECK: ret void
|
|
define void @example23(ptr nocapture %src, ptr nocapture %dst) {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%.04 = phi ptr [ %src, %0 ], [ %2, %1 ]
|
|
%.013 = phi ptr [ %dst, %0 ], [ %6, %1 ]
|
|
%i.02 = phi i32 [ 0, %0 ], [ %7, %1 ]
|
|
%2 = getelementptr inbounds i16, ptr %.04, i64 1
|
|
%3 = load i16, ptr %.04, align 2
|
|
%4 = zext i16 %3 to i32
|
|
%5 = shl nuw nsw i32 %4, 7
|
|
%6 = getelementptr inbounds i32, ptr %.013, i64 1
|
|
store i32 %5, ptr %.013, align 4
|
|
%7 = add nsw i32 %i.02, 1
|
|
%exitcond = icmp eq i32 %7, 256
|
|
br i1 %exitcond, label %8, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example24(
|
|
;CHECK: shufflevector <4 x i16>
|
|
;CHECK: ret void
|
|
define void @example24(i16 signext %x, i16 signext %y) {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds [1024 x float], ptr @fa, i64 0, i64 %indvars.iv
|
|
%3 = load float, ptr %2, align 4
|
|
%4 = getelementptr inbounds [1024 x float], ptr @fb, i64 0, i64 %indvars.iv
|
|
%5 = load float, ptr %4, align 4
|
|
%6 = fcmp olt float %3, %5
|
|
%x.y = select i1 %6, i16 %x, i16 %y
|
|
%7 = sext i16 %x.y to i32
|
|
%8 = getelementptr inbounds [1024 x i32], ptr @ic, i64 0, i64 %indvars.iv
|
|
store i32 %7, ptr %8, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %9, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|
|
;CHECK-LABEL: @example25(
|
|
;CHECK: and <4 x i1>
|
|
;CHECK: zext <4 x i1>
|
|
;CHECK: ret void
|
|
define void @example25() {
|
|
br label %1
|
|
|
|
; <label>:
|
|
%indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
|
|
%2 = getelementptr inbounds [1024 x float], ptr @da, i64 0, i64 %indvars.iv
|
|
%3 = load float, ptr %2, align 4
|
|
%4 = getelementptr inbounds [1024 x float], ptr @db, i64 0, i64 %indvars.iv
|
|
%5 = load float, ptr %4, align 4
|
|
%6 = fcmp olt float %3, %5
|
|
%7 = getelementptr inbounds [1024 x float], ptr @dc, i64 0, i64 %indvars.iv
|
|
%8 = load float, ptr %7, align 4
|
|
%9 = getelementptr inbounds [1024 x float], ptr @dd, i64 0, i64 %indvars.iv
|
|
%10 = load float, ptr %9, align 4
|
|
%11 = fcmp olt float %8, %10
|
|
%12 = and i1 %6, %11
|
|
%13 = zext i1 %12 to i32
|
|
%14 = getelementptr inbounds [1024 x i32], ptr @dj, i64 0, i64 %indvars.iv
|
|
store i32 %13, ptr %14, align 4
|
|
%indvars.iv.next = add i64 %indvars.iv, 1
|
|
%lftr.wideiv = trunc i64 %indvars.iv.next to i32
|
|
%exitcond = icmp eq i32 %lftr.wideiv, 1024
|
|
br i1 %exitcond, label %15, label %1
|
|
|
|
; <label>:
|
|
ret void
|
|
}
|
|
|